「推理算力」共找到 2714 篇相关文章
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
刚刚，Qwen3.8-Flash震撼发布，我们看到了Qwen4的骨架
8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
编程智能体的隐藏bug，被上交IPADS团队用数学逻辑给揪出来了
上海交通大学 IPADS 研究团队打造 FM - Agent，实现大规模系统全自动正确性推理。它能从顶尖编程智能体生成的大规模系统中找出隐藏 bug，还提出新规约生成方法，在绝对严谨与工程可用间找到平衡。
Meta 143亿挖角后的首个作品：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，在多领域有应用潜力。不过闭源引争议，且在部分领域有短板。
穷人福音！MIT研究：不用堆显卡，抄顶级模型作业就成
MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。
揭秘存储超级周期下的机遇与挑战
随着AI算力需求爆发与存储行业超级周期开启，存储芯片价格飙升，引发全产业链连锁反应。这源于AI需求引发的结构性供需失衡，涨价将持续至2026年，还推动半导体产业结构升级。
微软机房大量英伟达GPU开始吃灰……
微软CEO纳德拉承认，因缺电、缺机房空间，大量英伟达AI芯片闲置。这不仅是微软烦恼，也是大模型巨头共同问题。奥特曼称行业挑战在能源与基础设施匹配，算力企业也在调整策略。
数学题干带猫AI就不会了！错误率翻300%，DeepSeek、o1都不能幸免
研究发现，在数学题后加如“猫一生绝大多数时间都在睡觉”这类话术，会让大模型答错概率翻3倍，DeepSeek - R1、OpenAI o1等推理模型中招。研究探索攻击方式，总结出三种攻击模式。