搜索：多步聚合训练

「多步聚合训练」共找到 5741 篇相关文章

重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%

GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。

2025年具身智能赛道爆发，全球科技巨头与初创公司竞技。千寻智能获近6亿PreA+轮融资，其商用机器人Moz1实力强，自研Spirit v1与OneTwoVLA模型表现出色，以独特商业策略布局万亿市场。

现有依赖强化学习与可验证奖励（RLVR）提升大语言模型（LLM）推理能力的方法，受限于领域特定验证器。本文提出RLPR框架，利用LLM生成正确答案的固有概率作奖励信号，实现无需外部验证器的通用领域强化学习，效果显著。

本周一，ICML 2025公布最佳论文奖项，共8篇获奖，含6篇杰出论文奖、2篇杰出立场论文奖，南京大学研究者上榜。大会投稿量持续增长，展示AI领域火热。文中介绍了各获奖论文的研究内容与成果。

彭博社爆料苹果深陷「史上最大AI危机」，高层警告苹果或成下一个黑莓或诺基亚。AI基础模型负责人被Meta天价挖走，高层老化、人才流失、新品挤牙膏式更新等问题凸显，苹果正面临衰落风险。

文章介绍毫米波雷达，它是频率30GHz - 300GHz的电磁波，兼具微波与远红外波特点，有高数据传输速率、高分辨率等优势，也有绕射能力差等弱点，在多领域应用前景广，移远通信等企业正布局。

时隔5个月，xAI发布通用模型Grok 4，后续还将推编码、多模态代理和视频生成模型。Grok 4已上线，有三个订阅版本。马斯克称其智能超博士生，在多基准测试中领先，编码或超Cursor。

市场上多数AI PDF产品是ChatPDF模式，用于C端。企业关键非结构化数据多在PDF等传统载体中，难以获取。硅谷工程师做的Extend AI产品，获1700万美金融资，解决传统文档处理难题，打造平台。

谷歌DeepMind携手39岁数学天才Javier Gómez Serrano，率20人团队秘研三年，借AI冲击千禧年大奖难题——纳维 - 斯托克斯方程，预计未来12 - 18个月取得成果，若成功将助人类深入理解多领域机制。

InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。