开源动态8
Thinking Machines揪出LLM输出随机根源并开源方案
AI寒武纪
AI 摘要
Thinking Machines研究发现，LLM推理非确定性主因是负载和批次大小非确定性变化。文章给出使核心算子实现批次不变性的解法，实验实现千次生成结果一致，还为在线策略强化学习创造条件。
阅读原文 · AI寒武纪
重磅！Thinking Machines开山之作：大模型输出随机的根本原因被揪出，并开源终结方案
由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客，开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化，并给出系统性解法，还开源方案。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
谷歌Gemini 4 Argon全球可用
本文报道谷歌正式全球上线Gemini 4 Argon，详细说明了开放范围与定价规则，放出大量谷歌内部及合作方的实际应用案例，覆盖多领域，回应了此前对该模型实用性的质疑。
AGI Hunt
推荐文章9
Agent落地不靠更强模型靠工程系统
本文邀请蚂蚁、腾讯、京东的多位技术专家，围绕Agent落地生产环境展开讨论，提出当模型能力逐渐商品化后，真正的竞争壁垒已经转移到模型之外的工程系统，核心是从Harness到Loop的理念转变。
InfoQ
产品应用8
千问发布全新主动交互AI眼镜N1 Pro
本文介绍千问最新发布的N1 Pro AI眼镜，颠覆传统AI眼镜需手动/语音唤醒的交互逻辑，搭载全天候视觉感知、眼动追踪，集成健康监测、高像素影像等功能，起售价2600元，同时推出性价比款N1。
量子位
开源动态9
iPhone断网可跑35B国产开源大模型
本文介绍面壁智能和OpenBMB最新开源的端侧多模态大模型MiniCPM-V 4.7，其35B-A3B版本总参数35B，推理仅激活3B，仅需3G内存即可在iPhone等手机断网流畅运行，性能领先同类模型，详解了其优化技术与行业价值
量子位