「AI推理成本」共找到 11348 篇相关文章
一篇120页AI4Research（科学研究AI）最新系统性综述
为填补AI在科学研究应用缺乏全面综述的空白，提出AI4Research调查。其主流流程和分类分五个关键领域，各领域细分任务，凸显AI在研究中多样角色，还介绍多学科应用。
119 页硬核报告丨AI 2030：算力、能源与科研的未来预测
Epoch AI 受 Google DeepMind 委托编写报告，探讨 AI 规模扩张至 2030 年在计算、投资等方面的影响，认为扩张很可能持续，还会加速多领域科学研发，虽预测有不确定性，但 AI 会成关键技术。
官宣！姚顺雨出任腾讯首席AI科学家，带队大语言模型、AI Infra
12月17日腾讯官方消息，腾讯升级大模型研发架构，新成立AI Infra部等。姚顺雨出任首席AI科学家，兼任AI Infra部、大语言模型部负责人，他在智能体方向成果多，论文总引用超1.9万。
ICLR 2026 | 别再让大模型“想太多”了！最新研究揭示 LLM 推理效率的关键瓶颈
大语言模型推理计算成本失控，存在过度与思考不足问题。研究揭示推理失衡是根源，提出BAM模型及Plan - and - Budget框架，实验显示其能提升准确率与效率，转向‘推理价值’范式。
The Batch: 863 ｜推理提高了碳排放
新研究量化推理模型时代提供更优答案的环境成本，研究人员估算14个开源权重的大模型碳排放，发现推理与排放存在权衡关系，还指出战略性部署可降低排放。
OceanBase全面拥抱AI新进展：OB Cloud支持十亿级多类型向量数据，数十家企业实现AI应用落地
大模型热潮下，企业面临AI落地难题。OceanBase的OB Cloud支持十亿级多类型向量数据，已有数十家企业实现AI应用落地。它具备多云原生、AI能力优势，提供一体化架构和多模向量一体化，还降低了AI应用门槛。
正确答案 ≠ 正确推理，CoT 或成大模型推理能力停滞的「罪魁祸首」？
研究指出当前大模型推理能力评估多关注答案准确性，忽视推理步骤。通过对前沿模型测试发现，2023 - 2024 年大模型推理能力提升停滞，进步靠提示工程，自底向上策略最有效。
OpenAI 又发布了一个新的AI Agent~
OpenAI发布新AI Agent Aardvark用于找代码漏洞，流程包括监控Git提交等，测试能发现92%已知漏洞。还公布AI浏览器Altas技术架构，采用进程隔离和IPC通信，启动快，但维护成本高。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
对话贝陪科技：好的 AI 陪伴产品，应该让 AI 少说话
贝陪科技创始人黄缨宁分享打造儿童AI陪伴产品「可豆陪陪」的经验。产品让AI少说话，激发孩子表达欲，上线150天后留存率达51%。黄缨宁认为AI陪伴要营造成长环境，还介绍产品定位、使用场景、设计思路等。