算法论文8
MoDES:跳过88%专家保97%性能
新智元
AI 摘要
香港科技大学等团队:提出MoDES,系统分析多模态MoE skipping失效原因,构建输出与模态感知的动态专家跳过机制,跳过88%专家仍保留97%性能,加速推理。
阅读原文 · 新智元
跳过88%专家,保住97%性能!MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模,MoE架构虽降低计算开销,但推理成本仍高。香港科技大学等团队提出MoDES,它是training - free动态专家跳过框架,能跳过88%专家还保留97%性能,推理速度提升2倍。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
阿里发布新一代多模态大模型家族
本文围绕云栖大会阿里巴巴发布的新一代多模态生成模型家族展开,介绍多模态大模型的技术演进方向,分析其对专业内容生产领域的改变与落地价值。
InfoQ
产品应用9
实测阶跃Step 5 Preview工程能力
本文作者池建强参与阶跃星辰新一代旗舰大模型Step 5 Preview小范围内测,设置带两层bug和隐藏需求的编码工程题,与Qwen 3.8 Max、Kimi K3对比测试,分享实际项目使用体验,给出客观评测。
MacTalk
开源动态9
开源科学大模型书生-S2正式发布
上海人工智能实验室在2026浦江创新论坛发布开源基础大模型书生-S2,该模型科学能力比肩顶尖闭源模型,通用能力居开源第一梯队,创新架构支持专业知识持续扩展,强化长程科研与智能体能力,可为真实科研任务提供支撑。
OpenMMLab
开源动态8
蚂蚁百灵开源多模态大模型Ling-3.0-flash-VL
本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL,该模型采用稀疏混合专家架构,支持图片、视频、软件界面理解,可将视觉信息用于推理与任务执行,开放权重采用MIT许可证供开发者部署测试。
AIGC开放社区