「推理成本」共找到 3256 篇相关文章
打破视觉Token的算力诅咒，RedundancyLens如何为多模态大模型推理减负
多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。
一行代码，Claude成本直降85%！最强Opus做大脑，Sonnet疯狂搬砖
Anthropic深夜发布Claude「顾问策略」，让Opus 4.6当「顾问」，Sonnet/Haiku当「执行者」，实测性能翻倍、成本降85%。还带来Monitor工具更新，加上此前的Managed Agents等，构建完整Agent平台。
极低成本，复现GPT-4o图像风格化一致性！NUS推出OmniConsistency
NUS ShowLab 推出 OmniConsistency，解决开源扩散模型在图像风格化一致性上与商业 API 的差距。它成本低，能在保持风格化效果时精准保留图像细节等，还解决了风格化与一致性的跷跷板问题，且兼容性强。
人大高瓴赵鑫团队新作：先拆掉 RLVR，再重建推理模型训练
人大高瓴赵鑫团队围绕RLVR框架做系统实验，完成论文《A3PO: Adaptive Asymmetric Advantage Shaping for Reasoning Models》，提出A3PO方法。该方法将训练重点转向关键决策点，让推理模型学习更可控。
刚刚，OpenAI内部推理模型斩获IOI 2025金牌！所有AI选手中第一
OpenAI内部推理模型获IOI 2025金牌，总排名第6、AI组第1，沿用IMO金牌版本且未专门训练。商业模型在IOI表现不足，Grok 4相对领先。巨头热衷竞赛，源于竞争、技术迭代及多方利益考量。
告别随机性：Thinking Machines Lab如何实现了LLM推理的完全确定性？
文章指出LLM推理非确定性根源并非GPU并发和浮点非结合性，而是批大小变化致核函数非不变性。作者提出实现批不变操作的策略，实验验证有效，还阐述其对训练、系统可靠性等方面的意义。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
小模型推理极限在哪里？微博开源3B小模型，比肩顶级闭源
微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。
刚刚，DeepSeek首曝V3降成本秘诀！软硬协同突破Scaling天花板
DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。
刚刚，Anthropic 又出新货：Claude Opus 4.1 发布，代码、推理能力再升级
Anthropic发布Claude Opus 4.1，是对Opus 4的小升级，提升智能体任务、代码处理和推理能力。付费Claude用户等已可用，价格不变。在编程评测表现佳，获多方好评，官方建议升级。