搜索：推理性能优化

「推理性能优化」共找到 4157 篇相关文章

Claude Code迎来大更新：Agent能力增强

Claude Code 2.1.0正式发布，围绕Agent能力、开发者体验和安全性全面升级。有大量功能新增，如技能与Agent的热重载、上下文分叉等；修复诸多问题，还进行了性能、可靠性等方面的优化。

MonkeyOCR采用SRR三元组范式，简化多工具流程、避免整页文档处理低效问题。与MinerU、端到端模型相比性能更优，处理速度也更快。暂不支持拍摄文档解析，文章还给出安装、推理等操作步骤。

大语言模型在开放域问答中有‘幻觉’问题，GraphRAG结合LLM与知识图谱缓解此问题，但现有方法有缺陷。作者提出‘推理并构建’新范式和Relink框架，实验显示其性能领先，对RAG系统设计有启示。

Keller Jordan设计Muon优化器并公开研究进展，引OpenAI和xAI关注，最终加入OpenAI。Muon性能卓越，或用于GPT - 5训练，其故事暗示传统论文模式在AI领域或已落伍。

前Google Brain科学家Sara Hooker论文指出，统治AI十年的缩放定律Scaling走向慢性死亡，算力收益递减，研究重点将转向推理时算力和模型如何交互，还分析了算力崇拜兴起、缩放法则裂痕及未来方向。

OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。

Claude Opus 4.1正式发布，编程性能超Claude Opus 4及竞品，拿下SOTA。在Agent任务和推理方面升级，定价不变。官方将在几周内大规模改进。Anthropic借客户背书，暗秀关系，文风受开发者喜爱。

清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。

2025年9月23日，北大 - 360联合实验室发布TinyR1 - 32B模型，仅用20k数据微调就实现安全性能突破，兼顾推理与通用能力。还推出TinyR1 - Safety - 8B，且系列模型已全面开源。

当前大模型发展对计算硬件需求增长，数据搬运成隐性开销。中科院团队成果Ouroboros实现晶圆级芯片，解决数据搬运问题，虽面临挑战，但性能与能效表现显著，验证了“存算一体+晶圆级集成”路线可行性。