搜索：多模态数据集

「多模态数据集」共找到 3279 篇相关文章

人大-清华-腾讯发布：音频 - 视觉多模态任务统一框架

人大、清华和腾讯合作发布Crab论文，目标是实现多模态场景理解任务的高效一统。它针对音频 - 视觉理解模型难点提出解决方案，构建数据集、设计LoRA结构、统一架构，训练分预训练和指令调整两阶段。

2025年5月6日，智源研究院在全球开源创新论坛发布中英文高质量数据集CCI 4.0，同步在多平台开源。CCI 4.0规模大，处理严格，此前CCI系列反响好，未来将持续建设中文预训练语料库。

谢赛宁等团队推出统一多模态模型Blip3 - o，用扩散Transformer生成CLIP图像特征，采用顺序预训练策略。对比多种设计方案，确定CLIP + Flow Matching最佳，模型在多任务测试表现卓越且全开源。

视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。

文章以租赁导购助理“小不懂”为例，介绍Tool Use训练数据合成方案。先分析训练数据的目标与难点，提出动态多智能体对话生成框架，阐述多轮数据、复杂问题合成及过滤方案，展示数据和模型效果，还提及未来工作方向。

英伟达发布涵盖多领域的开放模型、数据集和开发工具，扩展多个模型家族。代理式AI领域扩展Nemotron；机器人技术引入Cosmos；自动驾驶有Alpamayo；医疗保健有Clara相关模型。均开放许可，可经GitHub等访问。

Figure人形机器人首秀用灵巧手叠衣服，在未改变神经网络架构、仅增加数据的情况下，让原本用于物流场景的它习得新技能，完成了端到端的操作，还实现自然多模态交互。

文章介绍了Monet模型，它实现了训练MLLM直接在连续隐空间思考的方法，内化视觉思考能力。还阐述了多模态模型隐式推理训练的难点，提出SFT+RL训练框架，构建数据集，经测试，Monet提升了视觉推理能力。

北大团队提出ToolVQA数据集，用于提升基础模型工具使用能力。它含2.3万条样本，贴近真实需求。通过ToolEngine构建，涵盖多工具与任务领域。微调后模型表现佳，代码与模型已开源。

香港中文大学MMLab团队发布MINT - CoT视觉推理方案，解决多模态数学推理难题。它引入特殊Interleave Token，构建专属数据集，采用三阶段训练策略，实验效果全面超越现有方法。