搜索：扩散Transformer架构

「扩散Transformer架构」共找到 2140 篇相关文章

新范式来了！新能量模型打破Transformer++扩展上限，训练扩展率快35%

研究训练新能量模型 EBT，为输入和预测分配能量值，模拟思考过程。它有跨模态、跨任务通用性，训练扩展率比 Transformer++ 高 35%，推理性能提升 29%，还在多任务中表现出色，是扩展模型能力新范式。

本文基于超1000+智能体应用实践经验，介绍企业级Agent多智能体架构。强调单智能体优先，介绍AgentScope支持的多智能体模式，对比工作流与对话模式，给出架构选型指南，还提及Spring AI Alibaba Graph为多智能体提供的能力。

北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。

文章讲述百度沧海·存储Mantle系统架构演进故事。面对云存储挑战及业界方案局限，团队经多阶段探索，构建Mantle及MantleX架构，解决性能难题，并规划后续升级方向，为业界提供新思路。

本文介绍新加坡国立大学xML团队的论文，梳理离散扩散方向研究图谱，对比自回归局限与离散扩散优势，阐述数理基础、模型生态、训练与推理技术，还提及应用及未来方向，显示其对自回归范式的替代潜力。

科学家面临让AI解决复杂科学难题的问题，传统固定架构AI处理特定复杂问题不顺手。近日学术团队提出Eureka架构，能让AI动态“生长”专用“大脑”，在测试中表现出色，还在数学和物理领域有重大成果。

为解决气动噪声数据中流动状态与空间位置分布不平衡导致的MLP预测精度不足问题，本研究提出多专家特征融合网络架构，以跨声速抖振气动噪声为算例评估，可降低MLP算法MSE，泛化性更好。

2023年以来大模型战场由decoder - only架构主导，Google双线出击。T5Gemma重燃encoder - decoder架构战火，性能提升显著；MedGemma坚守decoder - only路线，强攻医疗多模态，击穿闭源壁垒，打响开源反击战。

近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。

北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。