「大模型推理加速」共找到 8503 篇相关文章
Thinking Machines 发布又一神作「在线策略蒸馏」 ，LLM后训练效率飙升50-100倍
Mira的THINKING MACHINES开源「在线策略蒸馏」LLM后训练方法，结合两种主流后训练范式优点，提升训练效率50 - 100倍，成本降低9到30倍，可用于数学推理、模型个性化等场景。
GPT-5 核心成员详解 RL：Pre-training 只有和 RL 结合才能走向 AGI
本文编译 OpenAI 研究副总裁 Jerry Tworek 访谈，探讨 RL 与通向 AGI 路径。他认为 pre - training 与 RL 需结合，GPT - 5 是 o3 迭代，还谈及推理、模型发展、训练方式及 OpenAI 研究情况等。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
黄仁勋，开启智元（Token）时代
全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。
AI 开发时代的“能力暴露与禁止空间”方法论：TPDD 与高层测试闭环
文章指出大模型加速软件开发范式演进，AI 深度介入开发带来新生产路径，但也放大风险。作者提出 TPDD 方法论，通过提前定义测试点与边界条件，平衡能力利用与风险控制，确保系统可控、安全、可持续。
告别Transformer！北大、北邮、华为开源纯卷积DiC：3x3卷积实现SOTA性能，比DiT快5倍！
北大、北邮和华为研究提出纯卷积扩散模型 DiC，抛弃自注意力机制回归 3x3 卷积。它性能超 DiT，推理速度快 5 倍，证明精心设计的卷积网络在生成任务中也能表现卓越。
Claude Opus 4.7，全网差评！刚升级就翻车，用户怒斥：还我4.6
Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。