「推理缓存优化」共找到 3038 篇相关文章
智能体请求暴增9.4倍，token账单却没涨：Uber 公开AI软件工厂省钱方法
Uber 在 2026 年 AI 工程师大会分享软件工厂愿景。其 AI 工具嵌入开发各阶段，2 至 8 月智能体请求增 9.4 倍，成本稳定。介绍智能体会话四层、成本公式及优化手段，如选优模型、优化 token 等。
苹果一口咬死AI不会思考！OpenAI前高管直接开怼：AGI已来，别再酸了
苹果论文《思考的错觉》挑战AI推理能力基本假设，引发争议。OpenAI前研究主管则称AGI时代已近。多项研究测试推理模型，指出其有进步也有瓶颈，未来或需换思路，评估方式也待完善。
OpenAI新模型，被曝秘密训练中！万字硬核长文直指o4核心秘密
SemiAnalysis爆料，OpenAI正训练规模介于GPT - 4.1和GPT - 4.5间的新模型，下一代推理模型o4基于GPT - 4.1训练。强化学习成推理模型进步功臣，但面临基础设施瓶颈，奖励函数难定等问题。
ICML 2025 | 无需训练，即时对齐大模型偏好
上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。
Monet：赋予多模态大模型如人类一般的抽象视觉思考能力
文章介绍了Monet模型，它实现了训练MLLM直接在连续隐空间思考的方法，内化视觉思考能力。还阐述了多模态模型隐式推理训练的难点，提出SFT+RL训练框架，构建数据集，经测试，Monet提升了视觉推理能力。
AI出码率70%+的背后：高德团队如何实现AI研发效率的量化与优化
文章围绕建立统一数据采集和指标体系，搭建AI统一数据采集能力，定义AI出码率等核心指标，构建AI效率研发指标体系，还介绍了数据采集方案、指标计算等，实现数据驱动闭环。
小米罗福莉：MiMo-V2.5如何做到又快又强又便宜？ | ICML 2026
2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。
LLM提示三剑客：解密CoT、ReAct、DSP如何提升AI准确率？
LLM提示分思维链（CoT）、ReAct和声明式自我提示（DSP）三类。CoT鼓励模型推理，适合多步骤复杂问题；ReAct结合推理与动作，是代理基础；DSP让模型声明计划，用于模块化任务。还给出使用场景与对比。
Jeff Dean最新访谈：基础模型越来越强，小团队如何与谷歌等巨头竞争？
Jeff Dean 在 Y Combinator 活动中与 Diana Hu 对谈，探讨 AI 创业者面临的问题。他指出推理成新瓶颈，预计有更多推理硬件；Agent 执行复杂任务进步快；小团队可找 1%成功率问题；还提及稀缺能力及创业建议。
「Thinking with Images」推理速度太慢？「Zooming without Zooming」 让AI不调用工具也能「明察秋毫」！
上海交通大学与蚂蚁集团联合团队发布多模态大模型成果“Zooming without Zooming”。该研究提出R2I方法，将“缩放”转为训练目标，使模型单次前向传播实现细粒度感知，团队开源的ZwZ模型家族达开源SOTA性能。