「AI推理成本」共找到 11594 篇相关文章
Day0迁移、一键部署，华为开源的昇思MindSpore成为大模型开发的“万能钥匙”
在大模型无法一统天下的背景下，开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署，还介绍了其相关技术和实测效果。
奥特曼急了！OpenAI稳坐三年的王座，刚刚被Anthropic踹下去了
2026年5月Ramp数据显示，Anthropic企业市占率34.4%首超OpenAI的32.3%。Anthropic靠按量计费和AI Agent吸金，但也面临利益错配、体验下滑、成本上涨等问题，大模型竞争进入B端深水区。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
OpenAI女CEO太狠了！智商148，GPT-5才是真印钞机
GPT-5智商高达148，在多基准测试表现亮眼获英伟达认可。OpenAI借“路由器”为ChatGPT商业化铺路，它能分流降成本、让免费用户接触深度思考模型，还可变身广告分配器，实现AI广告变现。
DeepMind 创始人 Hassabis 语出惊人：百万 token 只是在贴胶带，AGI 在 2030 年
DeepMind创始人Hassabis在访谈中评估AGI进展，认为当前范式是最终架构一部分，但持续学习等问题待解决，预计2030年左右实现AGI，还探讨了Agent、蒸馏等多方面内容，并给创业者建议。
IMO 主席正式宣布：Google DeepMind在国际数学奥赛拿下金牌！
Google DeepMind的Gemini Deep Think模型在2025年IMO竞赛获金牌水平成绩。虽比OpenAI公布晚，但实现用自然语言解题质的飞跃。它采用增强推理模式，成绩经官方认证，后续将向用户开放。
英伟达开源深度研究引擎：企业级数据不出门，研究自动做
NVIDIA推出AI-Q Blueprint，将深度研究流水线打包成Agent Skill，解决企业级数据处理难题。它能让企业数据不出门，代理框架可派任务并获报告，还支持多种认证模式，代码库可本地部署，专为深度研究打磨。
LangChain Agent 年度报告：输出质量仍是 Agent 最大障碍，客服、研究是最快落地场景
LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。
GPT-5刷屏吊胃口之际，英伟达发出暴论：小型语言模型才是未来
英伟达新论文指出，未来属于小型语言模型（SLM），挑战了智能体需用大型语言模型（LLM）的假设。SLM参数量低于100亿，有低延迟、低成本等优势，还给出从LLM到SLM迁移路线图。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。