「循环深度Transformer」共找到 1095 篇相关文章
Scaling Laws起源于1993年？OpenAI总裁：深度学习的根本已揭秘
人工智能扩展定律（Scaling Laws）把模型性能和资源投入联系，是构建大模型的参考标尺。其起源说法不一，康奈尔博士生将其推至1993年贝尔实验室论文，OpenAI总裁称它揭示深度学习根本。
深度长文AI一键生成：实测字节扣子空间新功能
文章实测字节扣子空间新功能，它自比「深度长文写作加速器」。从多方面考验，发现其一键总结方便，写论文、分析社会议题、创作抒情内容等各有表现，适合内容创作，但故事创作表现欠佳。
Claude Code 推出 /loop 无限循环，一台电脑即可化身无数小龙虾
Claude Code发布v2.1.71，推出`/loop`功能，可让Claude在后台循环执行任务。它能将Claude Code从问答工具变为自主运转的Agent，配合CLAUDE.md和Git hook可构建自主Agent系统，还能同时跑多个实例。
Transformer上限触顶，Mobius能否引发下一代模型架构的革命？
自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。
Transformer可以改装成Mamba了：苹果把推理成本直接打成线性
苹果将Transformer改造成Mamba，采用‘两步走’策略，先造中间形态，再转成Mamba，避免性能崩塌。实验显示，新方法性能几乎没掉，成本逻辑改变，为模型降本重构提供新可能。
京东AI「结果」：深度应用已成当下，万亿生态瞄准未来
9月25日，“2025京东全球科技探索者大会”展示了京东AI的深度应用成果。京东发布全新JoyAI大模型及三大AI产品，展示其在多场景的应用，还升级多个平台，未来三年将投入带动万亿规模AI生态。
华为新架构砍了Transformer大动脉！任意模型推理能力原地飙升
即便Transformer是AI世界基石，但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构，能提升模型推理能力，且参数零增。
科学家发现大脑中的“旋转风暴”，其结构竟类似Transformer注意力机制
2026年6月18日，叶智文团队关于大脑旋转波的研究成果发表于《科学》。他们借助先进设备发现小鼠脑中旋转波，总结特征、验证其与全脑及行为关联，还指出其类似Transformer注意力机制，未来将继续深入研究。
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
Transformer终结者！谷歌DeepMind全新MoR架构问世，新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。