产品应用8
华为 FlashComm 提速大模型
机器之心
AI 摘要
华为:针对大模型推理通算难题,推出 FlashComm 技术,含 AllReduce 通信优化、以存换传、多流并行三招,能提升推理性能,未来还会围绕多方向创新,构建全栈生态。
阅读原文 · 机器之心
帮大模型提速80%,华为拿出昇腾推理杀手锏FlashComm,三招搞定通算瓶颈
在大模型推理通算难题凸显的背景下,华为数学家祭出 FlashComm。它包含三项技术,分别在 AllReduce 通信、以存换传、多流并行方面优化,解决通信瓶颈,提升推理性能,未来还将围绕多方向创新。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
数据比模型成共识,接下来拼什么
本文为数势科技创始人黎科峰记录上海闭门行业圆桌内容,不同领域从业者一致认为,大模型已非企业AI胜负手,数据与语义层才是核心瓶颈,共识形成后行业进入深度竞争阶段。
InfoQ
算法论文9
冻结权重,ModularRSI让Agent持续进化
IQuest Research联合北京航空航天大学、曼彻斯特大学等机构发布ModularRSI研究,探索在基础模型权重冻结的条件下,通过演化Agent外围运行机制Harness,实现可泛化的Agent自我改进,性能提升可跨任务、领域、模型迁移。
机器之心
新闻资讯8
罗福莉剧透小米MiMo v3新架构
小米罗福莉提前剧透MiMo v3核心新架构HySparse2,该架构针对Agent多轮任务中长上下文输入处理成本高的痛点优化,相关论文已公开,模型尚未正式发布,文中披露了架构设计与实验效果数据。
量子位
新闻资讯8
Opus5.5代码直出视频 吊打GPT
本文报道Claude Opus 5.5突袭上线后,网友大量实测,用它纯代码生成视频、3D建模、UI、可交互游戏等内容,该模型性能提升价格下降,表现优于GPT等竞品,引发科技圈刷屏热议。
量子位