搜索：多模态指令数据合成

「多模态指令数据合成」共找到 3383 篇相关文章

清华、北大，上海交大等发布人机协同训练框架，让机器人零样本学会新技能

清华、北大等发布人机协同训练框架MotionTrans，能让机器人零样本学会新技能。它将人类数据翻译成机器人语言，构建数据集，经格式转换、速度调整等处理后训练模型，实验验证其有效性，且数据、代码和模型已开源。

本文复盘WRC 2026，指出具身智能面临数据焦虑，数采方与模型方割裂，数据采集成本高、效率低、质量差。自变量推出QUANXTA Zero系列无本体数采方案，从模型需求反向定义数采硬件，形成数据闭环，还具备底层技术支撑。

9月11日，机器之心联合出品的外滩大会见解论坛聚焦具身智能。多位学界和业界代表分享看法，如孙富春称训练场可破数据瓶颈，江磊指其是新型数据工厂。思辨和圆桌环节探讨技术路线、应用场景等关键问题。

当前大模型依赖人类标注数据，成本高且扩展难。论文探讨模型自我纠错、自主进化可能，提出自我奖励训练（SRT），用投票共识代替人类标注。在数学数据集上有效果，但高难度数据集出现问题，作者给出解决办法并开源代码。

DeepSeek联合北大、清华开源多模态技术及论文，提出“视觉基元推理”框架，解决MLLM指代鸿沟问题。基于DeepSeek - V4 - Flash构建的模型，性能比肩GPT - 5.4等。论文还介绍架构、训练流程等。

DeepSeek研究员陈小康、陈德里确认其V4视觉模式开始灰度测试。更新后出现识图模式，具备真实图像理解能力。陈小康是多模态研究组负责人，陈德里负责语言模型等核心方向，V4可谓满血归来。

文章反思‘知识库+Prompt工程+工具调用’轻量级Agent构建模式局限，指出其难应对知识质量、语义理解与规模化维护挑战。提出从‘Prompt驱动’到‘上下文工程’、从‘搭积木组装’到‘全链路闭环’的范式跃迁，并介绍MktAI知识体系建设。

互联网内容多元，传统文本搜索引擎应对跨模态需求力不从心。阿里开源Qwen3-VL系列两大模型，Qwen3-VL-Embedding负责“海选”，Qwen3-VL-Reranker负责“决赛”，技术亮点多，实验表现优异。

index.dev报告整理50+条AI Agent统计数据，涵盖采用率、市场规模等。介绍技术栈各层级，如开发者层提升编码效率，知识工作者层辅助办公。还提及企业采用趋势、用户交互变化、市场规模增长等内容。

为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。