产品应用8

华为3招让MoE训练提速70%

量子位2025-06-03

AI 摘要

华为：为突破MoE训练瓶颈，构建Adaptive Pipe & EDPB优化方案，打造DeployMind仿真平台，解决通信等待和负载不均问题，让Pangu Ultra MoE 718B模型训练吞吐提升72.6%。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

华为昇腾芯片：逆境突围，崛起正当时

文章围绕华为AI芯片发展展开，提及方兴东《昇腾崛起》记录其历程。从战略觉醒到技术研发、应对制裁，华为历经曲折，如提出“韬定律”，发布多款芯片，在逆境中构建生态、拓展市场，展现强大实力与坚韧。

文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分，在 MoE 方面提出 SiTU、Norm、QB 改进；在注意力机制选择 MLA，与 KDA 混合缓解部分问题，还谈及 DSV4、NoPE 相关特点。

今年折叠屏市场平淡，小折叠被放弃、大折叠更新佛系，因成本高、出货难。但华为逆势上扬，2025年推出四款机型，2026年上半年Pura X Max销量超50万台。折叠屏难打性价比，华为靠创新和品牌优势统治市场。

今年折叠屏市场平淡，多数厂商收缩产品线，小折叠被放弃，大折叠更新佛系。但华为逆势而上，2025年推出四款机型，吃下国内超七成市场。其折叠屏越贵越好卖，因性价比打法先天不足，华为靠形态创新和品牌优势领先。