「训练推理效率」共找到 4436 篇相关文章
Transformer危！谷歌MoR架构发布：内存减半推理速度还翻倍
谷歌推出全新底层架构Mixture-of-Recursions（MoR），推理速度提高2倍、KV内存减半，首次在单一框架实现多任务处理与动态分配计算资源，研究人员通过实验验证其性能超Transformer。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
清华挖出「幻觉」的罪魁祸首：预训练产生的0.1%神经元
清华大学孙茂松团队从神经元角度研究LLM幻觉微观机制，发现不到0.1%的H - 神经元可预测幻觉，与过度顺从行为相关，根源在预训练阶段，为解决幻觉问题、开发可靠大模型提供新思路。
科技赋能 未来已来 | 人形机器人训练中心探秘 @首钢园
文章探秘首钢园的人形机器人数据训练中心，提及机器人学习的情况，还列出了相关参考资料，展现科技赋能下人形机器人领域的发展。
字节Seed发布PXDesign：蛋白设计效率提升十倍，进入实用新阶段
字节跳动Seed团队提出可扩展蛋白设计方法PXDesign，24小时生成数百高质量候选蛋白，效率较主流方法提升约10倍，湿实验成功率达20%–73%。还推出公开免费在线服务，提供配套工具加速应用落地。
DeepSeek秘密造芯！专攻推理，一年前已启动，招聘全程不公开
路透社消息，凭借算法震动硅谷的中国AI公司DeepSeek正秘密开发自研AI芯片，定位推理，项目约一年前启动，现处早期。全球模型公司自研芯片成趋势，虽挑战大，但DeepSeek有资金支撑。
无需训练，如何提升黑箱VLM？CARPRT用「类别感知」给出答案
近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。
AEPO：智能体熵平衡策略优化，让探索更稳，推理更深！
中国人民大学与快手团队联合提出 AEPO 算法，解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制，在 14 个基准上优于主流算法，在 X 等平台获高关注。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
DeepSeek推理再提速80%，V4正式版定档7月中旬
DeepSeek两天前开源DSpark推理加速框架，已在V4预览版在线服务跑真实流量，使生成速度提升60% - 85%。DSpark化解推测解码问题，在多模型超Eagle3和DFlash。V4正式版7月中旬上线，将引入峰谷定价。