「自注意力层」共找到 1527 篇相关文章
科学家发现大脑中的“旋转风暴”，其结构竟类似Transformer注意力机制
2026年6月18日，叶智文团队关于大脑旋转波的研究成果发表于《科学》。他们借助先进设备发现小鼠脑中旋转波，总结特征、验证其与全脑及行为关联，还指出其类似Transformer注意力机制，未来将继续深入研究。
芯片团队规模近3000人！小米扩张自研芯片版图
8月24日小米举行玄戒芯片技术沟通会，公布三颗自研芯片：AI旗舰SoC玄戒O3、端侧AI加速芯片玄戒O100、智驾高算力AI芯片玄戒D100。小米重启大芯片研发五年多，投入超210亿，芯片团队近3000人。
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
首次！世界模型、动作模型融合，全自回归模型WorldVLA来了
阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。
首篇以第一性原理剖析OpenClaw自进化AI社会的论文
截止发文，OpenClaw项目已达192k Star，其衍生的AI Agents社会网络moltbook聚集大量智能体。北邮等团队首次从第一性原理研究，提出“自进化不可能三角”理论，还给出缓解策略。
陶哲轩痛诉很缺钱！科研经费暴跌67%十年最低，自掏腰包科研
美国国家科学基金会削减基础科学资助，数学科学领域资助大降。菲尔兹奖得主陶哲轩痛诉经费不足，自掏腰包做科研，还以“开普勒的橙子”说明基础研究虽短期无用，却能助力科技突破。
可塑的计算机Omarchy爆火硅谷，龙虾之父自掏100万投资
Ruby on Rails 作者 DHH 推出 Linux 发行版 Omarchy，将 AI agent 嵌进系统底层，有独特设计和功能。自带安装脚本，安装快。获十位大佬各 100 万美元赞助，多家系统也在探索 AI 嵌入，它有望开启 Agent OS 时代。
任务自适应 Harness：从 Trace 到多 Coding Agent 的协作记忆
作者为AI Coding准备的端到端方案未落地，后在Routa项目找到新落点。基于ACP协议的Agent Trace可记录关键行为，用于分析优化。还介绍了Feature Explorer、Kanban Harness及任务自适应Harness，探讨多Agent协作记忆。
从 ReasoningBank 到 MetaAgent，RL 未必是 Agent 自进化的必要解？
业内对智能体自进化的探讨开启多路线探索模式。除 RL 优化，记忆系统改进成新方向，如 ReasoningBank 机制。此外，业内还从智能体自我识别、工具和策略辅助等机制探索其他技术路线。
挖掘注意力中的运动线索：无需训练，解锁4D场景重建能力
香港科技大学（广州）与地平线团队提出VGGT4D，通过分析VGGT内部机制，利用注意力层运动线索，提出无需训练框架，在动态物体分割等任务表现优异，为低成本4D重建提供新思路。