「超稀疏 MoE」共找到 2275 篇相关文章
昇腾+鲲鹏联手上大招！华为爆改MoE训练，吞吐再飙升20%，内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案，三大核心算子全面提速，系统吞吐再提20%，Selective R/S实现内存节省70%，为大规模MoE模型训练扫清障碍。
马斯克点火全球最大超算，首个1GW狂飙奇点！6万亿Grok 5在训
马斯克官宣全球首个吉瓦级超算Colossus 2上线，狂堆55万块GPU，目标百万。下一代Grok 5已在训练，6万亿参数将引爆智能奇点。同时，全球AI巨头掀起算力军备赛，但美国面临电力短缺难题。
刚刚，国产GPU赛道又跑出一个 2700 亿估值独角兽！“中国AMD”沐曦股份完成 IPO，开盘大涨超 500%
2025年12月沐曦登陆科创板，股价达679元/股，估值破2700亿。其定位全栈GPU提供商，产品覆盖多领域。2022 - 2024年营收三年复合增长率超4000%，但累计净亏损超30亿。核心团队多来自AMD。
独家丨清华00后团队「零次方机器人」获超亿元融资，聚焦可真实落地的具身智能
AI科技评论独家消息，零次方机器人近日完成超亿元融资，由润泽集团领投。该公司由清华00后创办，团队超百人。已实现单月量产百台，订单破亿，推出具身操作基础模型，融资将用于软件、硬件和生态建设。
SpAItial发布超逼真3D空间基础模型
德国AI初创平台SpAItial获1300万美元种子轮融资，发布超逼真3D基础模型。其核心技术能理解3D世界，可基于文本或图片生成3D场景，在多领域有革新可能，虽有竞争，但未来有望推动AI三维突破。
抱抱脸要卖了：估值超 130 亿美元
Business Insider称，Hugging Face（抱抱脸）正找买家，估值超130亿美元，公司未回应。它从聊天App转型成模型市场，虽没自研模型，但汇聚众多模型。目前出售有多种可能走向。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
本周 5 个超酷 GitHub 开源项目，实用到飞起！
本文介绍本周5个超酷GitHub开源项目。有显示苹果设备电池状态的AirBattery，开源卫星可视化平台keeptrack.space，本地图片压缩工具Pic - Smaller，跨平台端口助手Port - Killer，轻量级AI证件照工具HivisionIDPhotos。
内存涨势超黄金，带飞1400亿存储巨头
9月起存储芯片价格疯涨，国内“存储一哥”兆易创新第三季度净利润暴增61%，市值超1400亿。其创始人朱一明布局20年，使公司完成“三级跳”。不过，行业有周期性，兆易创新需应对挑战。