「推理模型瓶颈」共找到 8324 篇相关文章
刚刚，Qwen3.8-Flash震撼发布，我们看到了Qwen4的骨架
8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。
数学题干带猫AI就不会了！错误率翻300%，DeepSeek、o1都不能幸免
研究发现，在数学题后加如“猫一生绝大多数时间都在睡觉”这类话术，会让大模型答错概率翻3倍，DeepSeek - R1、OpenAI o1等推理模型中招。研究探索攻击方式，总结出三种攻击模式。
经验记忆黑科技：LightSearcher让AI工具调用减39.6%、推理快48.6%
现有的 RL 驱动的深度思考大模型系统面临准确率与效率的「跷跷板」困境，北邮百家 AI 团队提出 LightSearcher 框架，解决了这一痛点，在保持准确率的同时，显著提升了工具调用效率。
6666！NuerIPS满分论文来了
NuerIPS唯一满分论文结论惊人，指出真正决定推理上限的是基座模型本身而非强化学习，且蒸馏比强化学习更有望实现大模型自我进化，这给正火热的RLVR泼了冷水。
梁文锋署名！DeepSeek再发炸裂论文：提出“条件记忆”新范式，彻底打破GPU推理显存墙
来自DeepSeek的新论文提出“条件记忆（Conditional Memory）”新范式，推出Engram模块，实现可扩展知识查找。研究揭示U形缩放定律，构建的Engram模型性能超越纯MoE基线，还打破了GPU显存瓶颈。
时隔9个月Meta全新模型Muse Spark发布：闭源，原生多模态，一发布就落后？
时隔9个月，Meta推出Muse家族首款大模型Muse Spark，原生多模态推理，但能力表现一般，编程领域落后于opus 4.6和GPT 5.4等。它有沉思模式，致力于成个人超级智能，技术亮点多，性能高效。
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
月吞100万亿Token！AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资，估值达13亿美元。它每周处理25万亿个tokens，全球用户超800万。其提供AI推理统一控制层，解决企业多模型管理难题，开源模型崛起使其价值凸显。
120页深度报告，搞懂今年大模型和应用的现状与未来
Innovation Endeavors合伙人Davis Treybig发布《State of Foundation Models》（2025），从七个维度剖析AI产业现状与趋势。报告指出，AI发展迅速，模型成本高且迭代快，应用渗透各行业，智能体崛起，市场结构变革，公司运作方式也在重塑。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。