「K3模型」共找到 8807 篇相关文章
Jina-VLM:可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM,在多语言视觉问答任务达 SOTA。它引入注意力池化,连接视觉与语言基座,支持 29 种语言,能高效处理问答等任务,对硬件需求低。
思维链可无限延伸了,MIT等打破大模型上下文天花板
MIT等机构提出新架构Thread Inference Model(TIM),配合专用推理引擎TIMRUN,把推理过程变为树状递归子任务结构并修剪子任务,让模型突破输出窗口限制实现长程推理,实验验证了其性能。
狂涨12.6K star!Shell命令即搞定可视化监控,超级6~~
开源君分享简单轻量的开源项目Sampler,它能通过YAML配置文件实现系统指标监控与可视化,支持多平台,收获12.6K star。其有简单易用、跨平台等特色,安装后创建配置文件即可使用。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度,但直接丢层会降低性能。为此提出滑动层合并法,根据相似度阈值融合连续层,简化结构且保持性能。实验显示该方法优于现有技术,还揭示了与宽度修剪结合的潜力。
6.5k星!轻量级多智能体对话编排框架Agent Squad
Agent Squad是轻量级多智能体对话编排框架,有6.5k星。它能管理多AI代理、处理复杂对话,具智能意图分类等特性。新SupervisorAgent可协调多专业代理,还有演示应用及多种使用示例。
用多模态LLM超越YOLOv3!强化学习突破多模态感知极限|开源
华中科技大学、北京邮电大学等多所高校研究团队共同推出纯多模态开源LLM——Perception-R1,该模型用强化学习优化视觉感知,目前论文和代码均已开源,其在视觉任务上表现出色,为后续研究提供强大baseline。
Thinking Machines发布首个产品Tinker :大模型后训练彻底变天
OpenAI前CTO Mira Murati的Thinking Machines公司发布首个产品Tinker,这是为微调大模型设计的灵活API,能简化LLM后训练过程,让用户专注算法和数据,平台处理分布式训练。它有多种特性,已被顶尖机构采用。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战,如故障多、资源利用低等,还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
用最简单的大模型技术打造一个迁云专家有多难?
文章探讨在云迁移领域用大模型技术“复制”专家80%核心能力。分析标准化方案不足及简单RAG局限,介绍“LX0.1”AI专家助手构建,还提及分层评测、人机协同等优化,最后展望AI在云迁移的未来方向。
复盘 ChatGPT:7 亿周活的 ToC 产品,如何在模型之外做增长?
Lenny播客邀请OpenAI的ChatGPT负责人Nick Turley对谈,他分享了ChatGPT从内部项目成长为7亿周活产品的过程,包括产品开发、增长、定价决策等,还阐述了成功原因、增长方法等,为AI创业者带来启发。