搜索：多模态扩散Transformer

「多模态扩散Transformer」共找到 1349 篇相关文章

马斯克惊叹！DeepSeek和Kimi先后出手，捅破了Transformer的「潜规则」！

文章介绍了DeepSeek和Kimi在残差连接上的突破。DeepSeek让连接权重可学习，用数学约束保证稳定性；Kimi将注意力机制用于层间连接，解决了更根本的问题，性能提升显著。

单图像3D重建是计算机视觉难题，传统基于回归和生成式方法各有局限。Stability - AI开源SPAR3D模型，融合两种方法规避局限，仅0.7秒完成单图实时3D重建，实验显示性能显著优于其他基线方法。

中科院自动化所等团队提出VHR方案，通过“视觉神经增强”机制放大模型视觉关键注意力头输出，降低幻觉现象。此前主流方法多作用于最终输出阶段，VHR深入干预内部机制，还介绍了SSL语义引导方法。

牛津大学团队推出全球首个心脏传感基础模型CSFM，能统一分析多源数据，精准诊断房颤、预测死亡风险等。它打破设备壁垒，让偏远地区也能享用顶级心脏监护，推动全球医疗平权。

谷歌发布Gemini Embedding 2新型基础架构，将文字、图像等数据整合到统一维度，终结旧工作流。该系统赋予机器五维感知，建立跨媒介沟通语言，提升运行效率，在多场景有应用潜力。

字节Seed康炳易团队的最新研究成果Depth Anything 3（DA3），获谢赛宁盛赞。它架构简单，能从多种输入中精准算出物体深度、还原相机位置，在新视觉几何基准上表现出色，核心秘诀是极简设计。

中科院、中山大学、北大团队针对高效微调模型合并难题，提出「方向鲁棒性」概念，揭示 PEFT 模块合并失败主因，给出 RobustMerge 解决方案，提升性能，成果开源。

在ICFP 2025编程大赛中，日本Sakana AI的「Team Unagi」以人机共创模式夺冠。其AI系统「ShinkaEvolve」优化代码，性能提升近十倍，还启发人类思维。Sakana AI以自然进化为理念，探索AI新范式。

北京邮电大学、腾讯微信、清华大学团队提出We - Math 2.0，含知识体系、数据集及训练策略，可提升模型数学推理泛化能力。该成果在X上获关注，登Huggingface Paper日榜第一。

Mamba作者之一Albert Gu参与的论文提出分层网络H - Net，用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点，H - Net在多方面表现出色，或预示无需Tokenizer训练时代到来。