搜索：推理框架开发

「推理框架开发」共找到 4650 篇相关文章

谷歌之后，英伟达入局扩散大语言模型，Fast-dLLM推理速度狂飙27.6倍

大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。

有人用FrontierCode编程基准测试Opus 5推理档位，发现性能顶峰在medium档，高档位推理预算多余，会让模型反复校验、偏离需求，在代码场景还会擅自重构代码。Anthropic也建议调低推理档位。

开发者尝试让Claude做繁琐编码工作，自己担任高价值角色。当前开发者社区正进行“Claude代码框架之战”，文中给出设计Claude工作流的八个选择及搭配套餐，指出设定框架能让AI发挥最大效力。

随着大模型能力突破，Agent 从概念走向应用，各类框架不断涌现。清华系团队发布开源框架 Cooragent，获 1.9k stars。创始人王政分享 Agent 发展洞察，指出大模型能力提升推动 Agent 商业化，还探讨 MCP、框架等多方面问题。

新加坡Sapient Intelligence推出小参数AI模型HRM，能解决复杂推理难题。它受大脑启发，提出“隐性推理”路径，准确率碾压先进思维链模型，推理能力超越o3 - mini - high，经济性突出，任务效率可百倍提升。

扣子两款子产品扣子开发平台和扣子罗盘近期开源，加上此前开源的开发框架Eino，覆盖了Agent开发全链路。其采用宽松的Apache 2.0开源协议，降低开发门槛，有望带动Agent在更多场景落地。

多语言大模型面临语言选择难题，现有跨语言推理方法存在缺陷。新加坡研究团队推出AdaMCoT框架，通过自适应路由机制动态选语言推理，提升跨语言事实推理准确性与一致性，效果超越传统方法。

上海科技大学等机构提出 ReasonGen-R1 框架，结合链式推理监督微调与强化学习，提升自回归图像生成模型推理和创作能力，已全面开源。介绍了其训练阶段、实验结果及推理链模式。

在大模型推理复杂的当下，生成超长文本成本高。BIGAI NLCo团队提出推理加速框架TokenSwift，被ICML 2025接收。它重构传统自回归推理，解决长生成瓶颈，在多模型实验中表现亮眼。

研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。