搜索：扩散Transformer

「扩散Transformer」共找到 462 篇相关文章

谷歌之后，英伟达入局扩散大语言模型，Fast-dLLM推理速度狂飙27.6倍

大语言模型领域，推理效率制约实际应用。谷歌Gemini diffusion曾展扩散模型并行潜力，但开源扩散LLM推理慢。近日，NVIDIA等推出Fast - dLLM，无需训练即插即用，推理速度狂飙27.6倍，兼顾速度与精度。

作者探讨扩散语言模型（dllm），认为其建模方式或冲击AR。团队在AAAI报告介绍多项工作，还整理当前diffusion问题及观点，如推理架构、词表、优化范式等，并附项目网站和agent demo。

本文提出回归极简的方法 JustGRPO，在 RL 阶段让模型自回归生成，用标准 GRPO 训练，能超越各类针对 dLLM 设计的 RL 算法表现，提升推理表现同时保留并行解码能力。

北大彭宇新团队提出 NS - Diff，将物理约束与强化学习结合，解决视频生成物理失真问题。它通过多模块提升视频物理真实感，实验表明在多数据集上超现有方法，降低物理运动误差。

华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。

OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。

在AI热词不断涌现的时代，斯坦福大学等机构研究将长上下文、状态空间模型、扩散模型等结合，创造全新「视频世界模型」。它用状态空间模型实现长期记忆，还设置局部注意力机制，训练和推理表现出色。

Transformer作者之一创立的SakanaAI推出Text-to-LoRA（T2L），简化模型适配流程，省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率，零样本场景平均准确率78.3%超现有SOTA方法，开启“一句话定制模型”时代。

上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。

Transformer八子之一Illia Polosukhin用Rust构建安全版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安全风险，IronClaw以安全为核心，有多项安全设计，未来还会增加策略验证等能力。