算法论文8
华为Nexus架构提升模型推理能力
量子位
AI 摘要
华为诺亚方舟实验室:Transformer在复杂推理上有缺陷,问题出在Attention机制。为此推出Nexus架构,可提升任意模型推理能力,参数还零增,且思想有普适性。
阅读原文 · 量子位
华为新架构砍了Transformer大动脉!任意模型推理能力原地飙升
即便Transformer是AI世界基石,但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构,能提升模型推理能力,且参数零增。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
三万字讲透大语言模型入门
本文是面向零基础的大语言模型入门长文,无需机器学习背景,只用简单例子讲清大语言模型的核心逻辑,覆盖从原理到产品化的全流程,适合新人系统学习。
腾讯技术工程
推荐文章8
从Sigmoid到SwiGLU 读懂激活函数
本文系统梳理神经网络激活函数的发展历程,从传统普通激活到门控激活,讲解Sigmoid到SwiGLU各类激活的设计逻辑、优缺点与适用场景,帮助入门者理解设计思路
AINLPer
产品应用8
华为升级AI数据平台解决Agent痛点
本文针对企业落地AI Agent遇到的知识口径不一、推理慢、风险不可控等痛点,介绍华为AI数据平台三大升级路线,结合案例说明方案价值。
InfoQ
产品应用9
电力成算力新约束 华为推源网荷储AIDC
本文指出AI算力扩张正遭遇电力供应刚性约束,GW级AIDC建设面临供电波动、绿电消纳等多重瓶颈,华为依托能源与算力领域的双重积累,推出源网荷储AIDC解决方案,重构能源算力协同体系,提升单位电力Token产出,并分析了华为的核心竞争优势。
甲子光年