搜索：多阶段推理系统

「多阶段推理系统」共找到 4064 篇相关文章

美国版梁文锋来了

美国互联网券商巨头Robinhood的CEO Vlad Tenev投身AI创业，与Tudor Achim联合创立Harmonic AI，从数学突破开始，目前已完成B轮融资，估值达8.75亿美元，目标是构建数学超人类的AI系统。

InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。

2026年上半年，AI行业面临盈利难题，AI Coding虽火热，但旅游等领域落地AI更具挑战与潜力。飞猪升级AI能力推出「飞猪帮帮」，能办事、融合交互方式，还解决通用模型痛点，不过落地成闭环仍需供应商适配。

2025年9月22日，芯动科技发布“风华3号”全功能GPU，它架构全面，功能覆盖广，在大模型等领域有多个突破，还适配多生态与系统。该产品能为多行业定制服务，标志国产GPU进入规模化应用阶段。

SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。

随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。

OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。

文章围绕让AI智能体拥有持久记忆展开，深入探讨Agent Memory概念，聚焦LangGraph框架下长短期记忆实现，详解存储、管理、检索技巧，还通过引入MCP协议的实战案例展示构建多Agent系统。

当前LLM存在‘过度思考’困境，效率与成本矛盾突出。快手与南大合作推出HiPO框架，通过混合数据冷启动和混合强化学习奖励系统，让模型能自主决策思考模式，实验显示它提升了效率和准确率，还具强泛化性。

近年来，基于可验证奖励的强化学习（RLVR）在提升大型语言模型（LLM）推理能力上有关键作用，但存在熵崩溃问题。论文提出SVS创新策略，让模型自我合成变分问题形成自我提升循环，实验效果惊人。