「注意力残差」共找到 555 篇相关文章
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
突发！OpenAI关停Sora
OpenAI彻底退出视频生成业务，关闭App和API，ChatGPT视频功能也没了，迪士尼10亿美元合同作废。Sora研究团队转向机器人方向。原因是Anthropic靠文字和代码实现高营收，而Sora营收不佳且消耗算力。
爆红Moltbook一夜塌房！极客自曝狂刷50万假Clawdbot，全网都被骗了
爆火的Moltbook社区上，150万个Clawdbot中的一大部分由人类操控。极客Gal Nagli自曝刷了50万虚假账号，还指出其验证机制脆弱，可伪造数据。哥大论文也显示AI社交互动浅薄。
浙大提出Translution：统一Self-attention和Convolution，ViT、GPT架构迎来新一轮性能突破
近日，浙大与新加坡国立大学提出新型深度神经网络基础操作Translution，融合Self - Attention与Convolution优势，实现二者统一。基于它构建的网络在ViT和GPT架构下性能提升，但对算力要求更高。
好你个智谱，模型价格搞双标：中国一套外国一套
网友发现智谱Max计划国内外价格差异大，中国469元（约68美元），西方160美元，引发热议。Hugging Face产品负责人力挺GLM - 5.1，而Claude被曝性能下滑、成本增加。
你永远叫不醒装睡的大模型！多轮对话全军覆没，性能暴跌39%
研究人员进行超20万次模拟实验，耗资5000美元，评估大模型在多轮对话中的表现。结果显示，大模型在多轮对话中性能明显低于单轮对话，平均下降39%，还出现“对话迷失”现象。
被高薪吸引却遭愚弄！科学家怒曝AI科研黑幕：多为个人“捞金”，DeepMind百万成果是“垃圾”
物理学家 Nick McGreivy 分享应用 AI 做研究的经历，指出 AI 在解决偏微分方程上效果不佳，与宣传不符。他还提到 DeepMind 成果遭质疑，研究存在数据泄露、报告偏差等问题，认为 AI 在科学领域没那么成功。
追不上就直接买，马斯克600亿美元收购Cursor
马斯克旗下SpaceX官宣600亿美元收购编程神器Cursor，虽Cursor曾陷“套壳”争议，但双方各有所求。SpaceX在AI编程赛道追赶效果不佳，而Cursor受算力制约，二者一拍即合。此外，SpaceX计划上市，此时收购时机耐人寻味。
突发！NeurIPS拒收这类论文，AI学者集体破防
NeurIPS 2026新规拒收受制裁机构论文，引发中国AI学术圈震动，该规则指向OFAC制裁名单。同时，ICML 2026审稿口碑崩盘，评审意见放出后OpenReview宕机，审稿质量遭大量吐槽。
OpenClaw代码越改越崩？新研究EvoClaw揭示：Agents持续开发成功率仅13.37%
USC邓港大等联合发布评估基准EvoClaw，揭示AI在持续开发场景下表现不佳，成功率仅13.37%。研究还指出当前评测易高估AI能力，提出DeepCommit重构演进历史，分析各模型在持续演进中的局限与问题。