「推理成本」共找到 3256 篇相关文章
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所与腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
大模型虽好，但恕我直言：在OCR面前，开源小模型更香
作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。
SOTA大模型遇上加密数据评测：Qwen3未破10%，o1也栽了丨上海AI Lab等联合研究
当前推理模型在基准测试中性能卓越，但在密码学领域推理能力待探索。上海AI Lab等推出CipherBank评测，用海量真实隐私场景数据和多类型密码算法挑战SOTA大模型，结果显示模型表现不佳，还分析了模型“犯难”原因。
AI 的经济账根本算不通
文章指出AI经济账算不通，如GitHub Copilot将按用量计费，此前微软补贴用户算力；AI订阅服务成本波动大，欺骗用户；AI数据中心建设和运营成本高、收入少，依赖少数客户，OpenAI和Anthropic盈利难，可能影响相关企业。
多模态大模型不会画辅助线？最新评估得分：o3仅25.8%，远低于人类82.3% | 清华腾讯斯坦福联合
清华、腾讯、斯坦福等团队发布RBench - V基准测试，评估大模型视觉推理能力。结果显示，主流大模型如o3、Gemini2.5等准确率远低于人类，开源模型表现更差，暴露出大模型在复杂多模态推理任务中能力不足。
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
智能体请求暴增9.4倍，token账单却没涨：Uber 公开AI软件工厂省钱方法
Uber 在 2026 年 AI 工程师大会分享软件工厂愿景。其 AI 工具嵌入开发各阶段，2 至 8 月智能体请求增 9.4 倍，成本稳定。介绍智能体会话四层、成本公式及优化手段，如选优模型、优化 token 等。