算法论文8

Prophet：加速扩散语言模型推理

机器之心2025-09-03

AI 摘要

香港理工大学等机构研究者：扩散语言模型在解码前很久就确定答案。基于此提出 Prophet 策略，通过监控置信度差距提前解码，实验表明能在不影响性能甚至提升表现时加速推理。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

人大蚂蚁团队发布LLaDA MoE v2及扩展定律

中国人民大学高瓴人工智能学院与蚂蚁集团合作，首次系统刻画混合专家扩散语言模型扩展定律，据此训练LLaDA MoE v2，实现扩展效率与智能双重突破，将推动其迈向规模化时代。

2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。

DeepSeek两天前开源DSpark推理加速框架，已在V4预览版在线服务跑真实流量，使生成速度提升60% - 85%。DSpark化解推测解码问题，在多模型超Eagle3和DFlash。V4正式版7月中旬上线，将引入峰谷定价。

近年来大视觉语言模型虽推动多模态智能发展，但推理成本高昂。山东大学和MBZUAI团队提出TransPrune，从演化视角衡量视觉Token重要性，保持性能无损同时降低60%推理成本。