「自注意力机制」共找到 1944 篇相关文章
中国科学SCPMA | 南科大王建春团队：基于改进隐式轴向分解Transformer的三维槽道湍流快速预测
南科大王建春团队改进IFactFormer模型，采用“并行”轴向分解注意力机制，提升在复杂流动问题中的表征能力和稳定性。实验显示，改进模型拟合与长期预测能力强，多数指标精度优于传统方法。
太巅了！MIT老哥在Transformer里造了台计算机，LLM从此不需要调用外部工具？
LLM在数学推理表现佳，但纯计算是短板。MIT的Christos Tzamos团队在Transformer内造计算机，实现WebAssembly解释器，解决数独难题，还突破注意力机制瓶颈，打开软件与神经网络新接口。
8K Star！给所有 AI 编程工具加个智能调度中心，节省 20-40% Token！
AI编程圈火了个工具9Router，它是智能调度中心，能连接主流编程工具，自动路由到40多家AI提供商和100多个模型，自带RTK Token节省器，还有实用的三级降级机制，安装配置简单。
7篇顶会NeurIPS 2025最佳论文都说了什么？
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧，也在注意力机制、神经扩展定律等方面取得物理学层面突破，为AI建立更严谨科学地基。
Communications Engineering | 西湖大学&女王大学：面向阵风气动建模的表面压力时空动力学关联研究
西湖大学联合女王大学团队提出 Graph Transformer 框架用于阵风气动建模，融合图神经网络与注意力机制，从表面压力信号学时空关联，实现气动力准确预测，为AI在复杂气动建模提供新思路。
快9倍还更清晰？Direct3D-S2一键解锁高效3D生成
在高分辨率三维形状生成中，传统方式有计算与内存瓶颈。南京大学提出Direct3D - S2框架，基于稀疏体积构建，有空间稀疏注意力机制，加速计算，还引入统一格式VAE，生成质量领先，训练成本更低。
马斯克惊叹！DeepSeek和Kimi先后出手，捅破了Transformer的「潜规则」！
文章介绍了DeepSeek和Kimi在残差连接上的突破。DeepSeek让连接权重可学习，用数学约束保证稳定性；Kimi将注意力机制用于层间连接，解决了更根本的问题，性能提升显著。
北大DeepSeek论文或预定ACL Best Paper！梁文锋署名
北大DeepSeek联合发布的NSA论文已被ACL 2025录用且评分高，有望冲击最佳论文。该技术革新传统注意力机制，提升算力效率，是长文本处理的突破。此外，张铭教授团队还有多篇论文上榜。
谷歌Gemma 4全系开源：3.8亿激活超越20倍体量模型，手机秒变AI工作站
谷歌发布Gemma 4全系列开源模型，有4个尺寸。它在硬件适配、注意力机制等方面革新，能在手机等设备运行，在测试中成绩出色，还获多平台支持，谷歌发起挑战赛鼓励开发者。
图灵巨头反水！ICML新规血洗学术圈，学术散户只能「裸奔」
2025年NeurIPS投稿量大增致评审系统危机，ICML 2026推出作者自评级新政。图灵奖得主Bengio支持，认为可利用‘偏见’降噪。但该机制对只投一篇论文的‘学术散户’不利，或奖励‘灌水’。