算法论文8

MoDES：跳过88%专家保97%性能

新智元2026-03-05

AI 摘要

香港科技大学等团队：提出MoDES，系统分析多模态MoE skipping失效原因，构建输出与模态感知的动态专家跳过机制，跳过88%专家仍保留97%性能，加速推理。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

北大等提出 TensorCast，推理首字延迟最高降 93.2%

随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。

多模态大模型处理多参考图与视频对应关系能力不足。为此提出 RefCaptioner，强化模型对参考图识别感应能力、优化输出格式与奖励函数；还构建 MRVBench 评测基准，实验显示其表现优异。

Sand.ai团队开源全球首个千亿MoE视频生成模型MAGI - 2 - preview，总参数114B，单次前向激活约6B，成本低效果好。该模型解决了视频生成Scaling难题，架构、系统设计出色，开源将改变行业规则。

DeepSeek V4 Flash正式版API上线公测，其价格便宜得离谱，如0.07美元就能制作第一人称3D射击游戏。与Claude Opus 5、GPT - 5.6等对比，功能相近但成本低很多。它靠MoE架构等降低成本，还提升了性能。