搜索：多模态世界模型

「多模态世界模型」共找到 8131 篇相关文章

从多模态大模型中「拆」出音频向量模型

Google 发布原生多模态向量模型 Gemini Embedding 2，推动 Omni Embedding 发展。Jina AI 团队分享从多模态大模型中「拆」出音频向量模型的经验，介绍架构、训练数据，对比四种做法，还提及评测、应用场景及结论。

4月16日，腾讯正式发布并开源混元3D世界模型2.0（HY - World 2.0）。它是多模态模型，能理解多种输入，自动生成、重建和模拟3D世界，支持多格式3D资产导出，可与游戏工作流对接。

2026年世界模型成AI热门，资本人才汇聚让AI理解物理世界。具脑磐石获亿元融资，由曾任华为云AI算法创新Lab主任的朱森华创立，用认知神经科学重做机器人脑模型，构建认知世界模型。

现有视频世界模型存在“静态世界假设”，物体离开视野后状态不再更新。阿德莱德大学等研究者提出 LiveWorld，将世界演化与观察渲染解耦，使事件在视野外持续推进，并通过实验验证其有效性。

为让模型真正“能行动”，需可执行、可验证的符号世界模型，但现有自动生成路线有困局。研究团队提出 Agent2World，经实验验证有显著效果，能稳定产出高质量符号世界模型，开辟 AI 理解现实环境新可能。

Meta发布V-JEPA 2世界模型及三个新基准测试，Meta首席AI科学家Yann LeCun介绍其不同。V-JEPA 2基于视频训练，用62小时机器人数据就能实现零样本控制，还将探索分层式模型和多模态建模。

Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。

在AI热词不断涌现的时代，斯坦福大学等机构研究将长上下文、状态空间模型、扩散模型等结合，创造全新「视频世界模型」。它用状态空间模型实现长期记忆，还设置局部注意力机制，训练和推理表现出色。

多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。

近日，极佳视界与湖北人形机器人创新中心联合发布端到端VLA具身基础模型GigaBrain - 0，这是国内首个用世界模型生成数据实现真机泛化的模型，后续将全面开源，能完成复杂操作，实验成功率超SOTA方法。