搜索：Transformer网络

「Transformer网络」共找到 514 篇相关文章

Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红

Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。

2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。

Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。

针对视觉 Transformer（ViT）‘低通滤波’特性致细节丢失问题，北京理工大学等团队提出即插即用的 FDAM 模块。它受电路理论启发，能提升模型在分割、检测等任务性能，取得 SOTA 效果，有巨大应用潜力。

传统飞行器气动布局设计依赖专家经验，方案多样性受限。本文基于改进的生成对抗网络，提出端到端气动布局生成框架，以机翼和通航飞行器为对象研究，验证了其在创新飞行器设计方面的潜力。

Transformer作者初创公司Sakana AI公布AI解决数独能力排行榜，用全新基准Sudoku - Bench考验大模型创造性推理能力。结果显示大模型总体正确率仅15%，9×9数独中高性能模型o3 Mini High正确率2.9%。

Transformer作者之一创立的Sakana AI带来新方法，让教师模型像人类教师一样做启发式教学，根据已知解决方案输出解释。用此方法训练的7B小模型在传授推理技能上比671B的DeepSeek - R1更有效。

在 ACM KDD 2025 大会上，清华与中国移动联合发布 UoMo，全球首个面向移动网络的通用流量预测模型。它结合扩散模型与 Transformer，能理解地理与人流变化，一个框架搞定三类流量预测任务。

Kyanos是基于eBPF技术的开源网络分析工具，能透视Linux内核网络活动，解决分布式系统网络难题。它零配置、有内核级透视和智能流量解密能力，功能丰富，应用场景广，相比同类优势明显。

Cloudflare 发布“Code Orange: Fail Small”韧性计划，防止重大网络中断致大规模服务中断。计划优先考虑受控发布等，逐步推进改善，预计 2026 年一季度末完成部分改进。