「自注意力层」共找到 1599 篇相关文章
OpenAI公布首颗自研推理芯片成绩，下一代已进入制造阶段
8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。
汪军对话 Rich Sutton：大模型在一定程度上分散了我们对智能理解的注意力
在RL China 2025开幕式上，汪军与图灵奖得主Richard Sutton对话。Richard认为大模型缺乏目标和奖励，分散对智能理解的注意力。他强调RL核心是从经验学习，智能原则含梯度下降等，建议将目标解读为“奖励”。
LLM 仅靠自身就能增强推理？SePT 给出简洁在线自训练范式
多数推理后训练方法依赖外部信号，SePT仅用模型自身生成的答案自训练，能提升推理能力，数学推理任务准确率升10个点。它核心简洁，设计关键是温度解耦等，不损模型通用能力，代码易迁移复现。
独家｜清华团队组团创业，押注机器人端侧自进化，已完成首轮融资
过去一个多月，机器人学习风向生变。清华李健雄团队围绕机器人学习等研究多年后成立本溯智能创业。他们认为当下主流技术路线有问题，押注In - Context Learning，让机器人端侧自进化，降低部署成本。
√N并行+84倍计算加速！英伟达港大全新图像注意力：空间结构都保留
英伟达、港大等研究人员提出新型视觉注意力机制GSPN，通过线性扫描和稳定性 - 上下文条件处理图像空间结构，降低计算复杂度至√N量级，在多视觉任务达先进水平，生成16K图像加速超84倍。
从物竞天择到智能进化，首篇自进化智能体综述的ASI之路
普林斯顿大学等机构研究者发布首个自进化智能体综述，为领域建统一理论框架和路线图。综述给出形式化定义，围绕What、When、How、Where构建分析设计框架，还探讨评估范式并指明未来方向。
别等GPT-5了！普林斯顿万字综述揭秘：我们要做自进化Agents！
普林斯顿大学联合多顶尖机构发表“自进化智能体”综述，描绘AI从静态工具演变成自我学习迭代智能体的过程，拆解其进化核心维度，介绍触发进化机制的时机、修炼方式及应用方向。
Claude一夜爆更自修bug，PR自己绿了！全球程序员：「摸鱼」正式合法
Claude Code上线「云端自动修复」功能，可自动跟进PR，排查问题、写代码并推送，解放开发者双手。同时，科研团队用其打造Claudini，迭代56次发现新型越狱算法，Claude Code还能自进化写代码。
Agent的自演进，被刚刚开源的AReaL 2.0按下了加速键
Agent 正从「会使用工具并完成任务」向「在使用中学习并改进方法」转变，但面临自演进难题。AReaL 2.0 上线，解决 Agent 服务侧问题，给出在线学习闭环方案，其价值已在实践中得到验证。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。