「推理机制」共找到 2738 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
AI改造出行体验：滴滴的试验能否开启行业范式转变？
滴滴近日面向公众内测上线出行AI助手小滴，颠覆传统打车模式。它能精准理解需求，提供个性化方案，还可进行时空推理和订单规划。滴滴用工程打法攻克难题，还上线MCP服务助开发者定制助手。
OpenAI谈：大模型为什么会有幻觉？如何避免？
OpenAI论文探讨大模型幻觉问题，指出评测缺陷，像多数AI模型评测非对即错，模型为得分会瞎猜。还从预训练和后训练阶段剖析根源，提议改造评测，引入置信度阈值和错误惩罚机制。
OpenAI 不想再「跪着」买显卡了
《金融时报》消息，OpenAI 正和博通合作自研代号“XPU”的 AI 推理芯片，2026 年量产。其不仅在芯片发力，还在硬件、应用和算力基建多线出击，不过自研芯片也面临资金、人才和软件生态等问题。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
从繁杂技巧到极简方案：ROLL团队带来RL4LLM新实践
当前RL4LLM领域发展快但存在标准、结论不一及机制解释不足等问题。阿里巴巴淘天集团和爱橙科技联合高校基于ROLL框架研究，评估关键技术组件，提出简化算法Lite PPO，在多基准上表现佳。
OpenAI高管自爆：Scaling不死，GPT-5「双轴训练」撕开智能天花板
OpenAI首席运营官Brad Lightcap在对话中揭秘GPT-5，其能自主判断是否深度推理再作答，体验全面升级。训练方式有后训练，Scaling Law仍成立，未来从两轴改进。还探讨了AGI、应用场景等。
6.6K Star 打破次元壁！MCP-Use开源爆火：6行代码让LLM操控万物！
在AI Agent开发热潮中，MCP-Use作为开源Python库爆火。它用6行代码让LLM操控万物，支持多模型、多服务器，提供安全机制，适配网页浏览、3D建模等多种场景，降低AI Agent开发门槛。
UNC | 发布Bifrost-1，构建“最强大脑”与“顶级画师”的桥梁，低成本实现“文生图”自由
随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。