产品应用8
华为:一张卡干俩活突破算力瓶颈
新智元
AI 摘要
新智元报道,RL后训练成大模型性能突破关键,但算力浪费、集群效率低。华为团队用RL Fusion和StaleSync两大黑科技破局,实现训推共卡,资源利用率翻倍,训练速度提50%。
阅读原文 · 新智元
RL后训练步入超节点时代!华为黑科技榨干算力,一张卡干俩活
在大模型竞赛白热化当下,强化学习后训练成突破LLM性能天花板核心路径,但算力浪费和集群效率低是难题。华为团队祭出两大黑科技破局,在超节点实现训推共卡,资源利用率翻倍,还提升训练速度。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
Anthropic营收反超OpenAI,IPO占优
IPO前夕,Anthropic最新年化营收达650亿美元,8个月翻超7倍,反超OpenAI。双方在资本市场竞争激烈,A社在起跑时间、财务、商业模式上占优,但OpenAI用户规模和产品生态占优,目前A社牌面更好。
量子位
新闻资讯8
英伟达联手OpenAI,狂卷16GW算力霸权
英伟达宣布亲自下场锁定土地、电力和厂房等资源建超级AI工厂。与SB Energy联手在美拿下LPS容量,租客是OpenAI。文章分析合作原因、价值,解答外界疑问,称英伟达成全栈AI基建平台。
AI寒武纪
新闻资讯8
菲尔兹奖得主:AI数学优势在‘输得起’
OpenAI发布内部版模型Astra的十项成果,引发数学界震动。菲尔兹奖得主Timothy Gowers分析其成果,指出AI优势在‘输得起’,还探讨找例方法、模型短板,给出训练建议与衡量跨越门槛的标准。
新智元
算法论文8
北大等提出 TensorCast,推理首字延迟最高降 93.2%
随着模型规模增长、新应用兴起,大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast,解耦张量状态,复用管理能力,在多场景测试中表现出色,为大模型基建提供新范式。
机器之心