「推理成本」共找到 3256 篇相关文章
长思维链里的推理步骤，哪些最关键？三招锁定LLM的「命门句子」
杜克大学和 Alphabet 研究者提出在句子层面分析推理痕迹，找出长思维链中关键步骤，提高 LLM 可解释性等。提出三种互补方法，还提供开源工具，研究为调试推理失败等提供可能。
AI真有希望考清北了！豆包1.6多模态推理发威，闯关数理化带图大题
火山引擎原动力大会发布豆包大模型1.6，它是国内首款多模态SOTA模型，支持256k上下文长度。实测中它解答高考数理化带图大题表现出色，还具备图像识别、视频理解、GUI操作等能力。此外，火山引擎还推出系列工具和平台助力企业。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
Couchbase与爱奇艺的十年之约：Magma引擎如何破解TB级缓存性能与成本难题？
在AI驱动应用革新浪潮下，海量数据处理的性能与成本平衡成挑战。Couchbase技术直播中，爱奇艺专家分享实践经验，揭秘其如何破解性能、扩展性与成本难题，还介绍了Capella AI Services等。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
DeepSeek、智谱被曝造芯，国产大模型绕开英伟达！
据路透社等爆料，DeepSeek与智谱AI正秘密自研定制化AI芯片，目标是摆脱对英伟达等的硬件依赖，构建自身算力生态。因算力账本和外部环境压力，两家公司选择研发面向推理场景的芯片。
黄仁勋CES2026最新演讲：三个关键话题，一台“芯片怪兽”
北京时间1月6日，英伟达CEO黄仁勋在CES2026演讲。回顾过去一年开源模型发展，本次围绕系统与基础设施、模型、应用落地三条主线演讲，展示Rubin架构等成果，推动推理型AI发展及应用。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。
xAI 新模型 Grok 4 Fast 卷疯了！少用 40% token 还能追平 Grok 4，限定范围可直接免费用
近日，马斯克旗下 xAI 推出新 AI 模型 Grok 4 Fast，将非推理与推理能力整合，少用 40% token 追平 Grok 4，运行成本降 98%。它有 200 万 token 窗口，多平台可用，部分范围免费。
谷歌Ironwood架构TPU v7：用AI造AI，撼动英伟达芯片帝国
11月25日谷歌云发布第七代定制芯片Ironwood，由AlphaChip设计。它以9.6 Tb/s光互联带宽和1.77 PB共享显存池重构大模型推理硬件基准，挑战英伟达芯片地位，展现AI算力竞争新趋势。