「分布式推理系统」共找到 3593 篇相关文章
全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。
DeepSeek比你更懂反思！谷歌重磅发现，智能的本质竟是一场社会化对话
谷歌等机构研究发现，像DeepSeek - R1等推理模型思考复杂问题时，内部模拟多角色辩论赛，形成思维社会机制，让AI准确率提升，证明智能本质或是内化社会互动，还为调优AI提供新方法。
Loop Engineering，4层循环自我进化
Loop Engineering旨在解决人工调度agent的问题，设计系统替人prompt。其系统是四层嵌套循环，从内到外分别让agent干活、干得对、知道何时干、越干越好，还指出优化循环结构收益渐增。
分享10本我觉得AI时代应该必读的好书。
作者推荐10本非AI直接相关但对理解和学习AI有用的书，如《失控》助理解AI本质，《人有人的用处》探讨人机关系，《系统之美》揭示AI使用代价等，这些书构成AI时代底层方法论。
其实，扩散语言模型在最终解码之前很久，就已确定最终答案
随着扩散语言模型（DLM）发展，它成自回归（AR）模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象，提出 Prophet 策略，实验显示其能在保持高质量生成时显著加速推理。
人类最后考试已不够用，Agent最后考试来了！
AI飞速进步，人类最后考试（HLE）已不够用，伯克利牵头推出智能体最后的考试（ALE）。ALE真实、全面、可验证，当前最强AI在最难档通过率仅8.6%，主流系统平均2.6%，显示AI距替人干活尚远。
终于在国产AI上看到了Opus的影子｜GLM-5深度实测
作者起初怀疑GLM - 5称对标Claude Opus 4.6、定位“系统架构师”的说法，但实测后改观。通过宝可梦策略助手、降噪网站沉浸式交互、求职招聘双边匹配三个测试，展现其系统规划、执行、纠错等能力，像真正架构师。
微软、哈佛开源创新优化器：全面超越Muon，提升大模型训练效率
随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。
人形机器人开始打国球了！两台机器人完整打完11分制比赛
第二届世界人形机器人运动会8月22 - 26日将在「冰丝带」举行，港大超维战队的两台人形机器人按11分制自主打完一局。其采用自主研发的SMASH 2.0系统，团队还探讨技术难点、系统升级等问题。
DASF:可落地，易执行的AI安全框架
随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。