搜索：扩散Transformer

「扩散Transformer」共找到 462 篇相关文章

把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法

Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。

针对视觉 Transformer（ViT）‘低通滤波’特性致细节丢失问题，北京理工大学等团队提出即插即用的 FDAM 模块。它受电路理论启发，能提升模型在分割、检测等任务性能，取得 SOTA 效果，有巨大应用潜力。

华为盘古多模态生成团队推出 Selftok 技术，通过反向扩散将自回归先验融入视觉 token。它突破传统，实现因果 token、强化学习友好型 token 及纯 AR 大一统架构，实验在多方面表现优异，论文还入选 CVPR 2025 最佳候选。

近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。

何恺明团队提出新方法Pixel Mean Flow（pMF），突破传统扩散模型/流模型限制，砍掉多步采样和潜空间，一步在像素空间生成图像，在ImageNet不同分辨率上取得佳成绩，还介绍了核心设计、实验结果对比等。

视觉-语言-动作（VLA）模型是端到端自动驾驶主流技术，但自回归解码架构有瓶颈。复旦大学与引望智能联合提出WAM-Diff2，实现自回归VLA向离散扩散模型迁移，解码加速15.1倍，多任务性能不降。

Transformer作者初创公司Sakana AI公布AI解决数独能力排行榜，用全新基准Sudoku - Bench考验大模型创造性推理能力。结果显示大模型总体正确率仅15%，9×9数独中高性能模型o3 Mini High正确率2.9%。

Transformer作者之一创立的Sakana AI带来新方法，让教师模型像人类教师一样做启发式教学，根据已知解决方案输出解释。用此方法训练的7B小模型在传授推理技能上比671B的DeepSeek - R1更有效。

扩散模型核心基石DiT遭网友质疑，称其数学和形式有误，甚至怀疑无Transformer。作者谢赛宁回应抨击标题党，强调科学精神与实证方法，还肯定Tread，推荐Lightning DiT版。

UniCalli由香港科技大学（广州）等团队推出，是全新统一扩散框架，能精准生成书法排版和连笔，将书法生成和古籍识别统一，工作被ICLR2026接收，代码、数据集开源，还有在线Demo。