搜索：推理加速技术

「推理加速技术」共找到 4963 篇相关文章

全球首款AI原生游戏引擎再进化：GTA6再不来，我们就AI一个

GTA 6跳票成梗，其场景常被用于研究。一个多月前全球首个AI原生UGC游戏引擎发布，如今Mirage迭代为更强大的Mirage 2，支持多样场景，与Genie 3有不同优势且已上线，不过仍有技术问题待解决。

麻省理工科技评论洞察与Arm公司合作发布《通往通用人工智能之路》报告，探讨AGI定义、实现时间表、当前AI局限性及技术路径等。指出当前AI有局限，实现AGI需解决诸多障碍，还强调计算能力和异构计算的重要性。

Meta 扎克伯格亲自出手重金招人，组建豪华 AI 战队，核心领导与技术阵容都很强大。但天才招聘只是第一步，组织天才协同才关键。DeepSeek 团队规模小、扁平化，成功逆袭。Meta 难复制其成功，组织重构能力或更重要。

Andrej Karpathy在YC AI创业营演讲引发关注，提出软件3.0时代来临，大量软件将被重写。还探讨了LLMs特性、半自主工具优势等。此外，文中整理了Sam Altman、李飞飞等嘉宾的精彩观点。

在具身智能崛起时，灵巧手成人工智能落地核心突破口。2025年5月25日相关线上沙龙中，嘉宾围绕灵巧手软硬件、数据与模型、落地应用等交流，探讨数据难题、开源价值、落地挑战及中美差距等。

OpenAI昨夜动作不断，o3模型降价80%，o3 - pro发布，开源模型延期。Sam Altman发长文《温和奇点》，预测AI发展时间线。o3价格虽降但使用成本仍有差异，o3 - pro性能强却推理慢，开源延期引发猜测。

北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。

Qwen与清华LeapLab团队研究发现，大模型强化学习训练推理能力时，仅20%高熵token就能撑起效果，甚至超全部token训练。团队用此在Qwen3-32B创造新SOTA记录，还探讨了强化学习的相关特性。

来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。

信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。