算法论文8
中科院自动化所破MoE模型效率困境
量子位
AI 摘要
中科院自动化所团队:针对MoE模型‘三难困境’提出统一框架,将专家动态重组,实验显示,在不损性能下,总参数量降80%,吞吐量提10%-20%,内存消耗大减。
阅读原文 · 量子位
破解MoE模型“规模越大,效率越低”困境!中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大,效率越低’困境,中科院自动化所研究团队提出统一框架,直击MoE底层运作模式,让专家‘组队学习’,实现参数量、负载方差降低,达成三重优化。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
自然意志发布Natura-1具身智能模型
本文报道北京具身智能公司自然意志发布全新Natura-1模型,该50B参数MoE模型基于百万小时人类第一视角经验预训练,可驱动20自由度灵巧手实现零样本泛化,完成各类复杂日常操作,攻克了机器人灵巧与通用难以兼得的难题。
机器之心
算法论文8
清华Jev-LDE:一次编辑暴涨ICL准确率
清华大学自动化系研究者针对大模型上下文学习(ICL)中示例选择成本高、效果不佳的问题,提出Jev-LDE方法,仅对初始检索示例做一次局部编辑,即可大幅提升1-shot准确率,推理成本增量很低。
机器之心
新闻资讯8
自然意志发布Natura-1通用基础模型
自然意志是专注物理世界通用智能的研究公司,本文正式发布其首个面向物理世界的通用基础模型Natura-1,介绍了模型技术方案、评测结果与发展路线。
五源资本 5Y Capital
新闻资讯8
江波龙高通合作手机端跑通30B大模型
本文报道江波龙携手高通,在2026骁龙峰会上基于第六代骁龙8超级至尊版移动平台,跑通端侧30B-MoE大模型本地推理,探讨存储行业转型AI技术周期的产业逻辑。
甲子光年