算法论文8
华为Nexus架构提升模型推理能力
量子位
AI 摘要
华为诺亚方舟实验室:Transformer在复杂推理上有缺陷,问题出在Attention机制。为此推出Nexus架构,可提升任意模型推理能力,参数还零增,且思想有普适性。
阅读原文 · 量子位
华为新架构砍了Transformer大动脉!任意模型推理能力原地飙升
即便Transformer是AI世界基石,但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构,能提升模型推理能力,且参数零增。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
COLM三篇论文暴击Transformer祖传设计
COLM 2026上,三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大;《Lost in Backpropagation》揭示输出投影层信息损耗严重;《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
量子位
推荐文章8
华为昇腾芯片:逆境突围,崛起正当时
文章围绕华为AI芯片发展展开,提及方兴东《昇腾崛起》记录其历程。从战略觉醒到技术研发、应对制裁,华为历经曲折,如提出“韬定律”,发布多款芯片,在逆境中构建生态、拓展市场,展现强大实力与坚韧。
芯师爷
新闻资讯8
2026奇点大会北京将办,Łukasz Kaiser将演讲
2026年,Sam Altman等四位AI界大佬称已进入奇点。11月20 - 21日,奇点智能大会北京站将举行,两大核心会议同期举办。OpenAI资深科学家Łukasz Kaiser将演讲,会议汇聚专家探讨AI前沿与底层技术。
AI科技大本营
算法论文7
Mobius能否颠覆Transformer架构?
自ChatGPT问世,Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构,有望解决商用等关键问题。
机器之心