算法论文8
Kimi团队革新残差连接，获马斯克点赞
AGI Hunt
AI 摘要
Kimi团队：用Attention Residuals替换残差连接，验证后效果佳，相当于白赚1.25倍算力。马斯克和Karpathy点赞。这或预示深度学习基础范式进入可重新讨论阶段。
阅读原文 · AGI Hunt
10 年后，Kimi 团队重新发明残差连接。马斯克和 Karpathy 同时点赞
Kimi团队发布技术报告，提出用Attention Residuals替换残差连接。实验显示其在各尺度模型上表现优于基线，降低训练成本。马斯克和Karpathy点赞，这或标志深度学习基础范式进入重新讨论阶段。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
COLM三篇论文暴击Transformer祖传设计
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
量子位
新闻资讯8
2026奇点大会北京将办，Łukasz Kaiser将演讲
2026年，Sam Altman等四位AI界大佬称已进入奇点。11月20 - 21日，奇点智能大会北京站将举行，两大核心会议同期举办。OpenAI资深科学家Łukasz Kaiser将演讲，会议汇聚专家探讨AI前沿与底层技术。
AI科技大本营
算法论文7
Mobius能否颠覆Transformer架构？
自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。
机器之心
新闻资讯7
前大厂负责人创业，探索AGI新架构
曾是OpenAI的「强化学习最大主义者」Jerry Tworek，与谷歌Gemini预训练负责人Rohan Anil，共同创办Core Automation。他们探讨当前AI路线问题，认为下一代架构要能持续学习，还计划打造自动化AI实验室。
机器之心