搜索：全离散扩散架构

「全离散扩散架构」共找到 2051 篇相关文章

彻底改写Transformer！「能量驱动架构」横空出世，通用推理时代要来了？

UIUC、斯坦福与哈佛联合提出全新「能量驱动Transformer（EBT）」架构，打破「前馈即推理」旧范式，以能量最小化模拟人类思维，训练更高效、推理更精准，在多方面超越传统Transformer。

随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。

当前具身智能的VLA赛道陷入「碎片化」泥潭，方法难对比、复现成本高。港科大开源StarVLA，提出「乐高式」统一架构，构建模块化开源底座，实现双向模块化，还支持多种训练范式，打通Sim2Real。

谷歌在NeurIPS 2025发布两项大模型新架构研究，通过‘测试时训练’机制，推理阶段可将上下文窗口扩展至200万token。新成果Titans和MIRAS结合RNN速度与Transformer性能，突破超长上下文瓶颈。

The Information报道称，OpenClaw在中国AI圈发酵和扩散速度远超硅谷想象。字节、阿里、腾讯在云平台上线其服务，开发者可云端运行。围绕它的生态在中国疯狂生长，还渗透到硬件领域，对创业者是不可逆冲击。

多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。

普林斯顿大学助理教授刘壮在访谈中指出，架构没那么重要，数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节；当前数据集远不够多样；大语言模型有语言空间的世界模型，但视觉空间的还缺失；记忆是瓶颈，智能体只是权宜之计；AI目前还替代不了研究生。

Meta开源DepthLM，首证视觉语言模型不改架构，也能媲美纯视觉模型的3D理解能力。它通过视觉提示等策略，解锁VLM多任务处理潜力，为自动驾驶等领域带来前景。

AI科技评论独家获悉，物理AI公司章鱼动力完成近5000万美元首轮融资，由地平线等联合投资。同时发布围绕操作智能、物理世界建模与数据体系协同的SYNTH深思架构，资金将用于研发等。

Meta开源DepthLM，首证视觉语言模型不改架构就能媲美纯视觉模型的3D理解能力。通过视觉提示等创新策略，它精准完成像素级深度估计等任务，为多领域带来前景。