「多模态交互」共找到 1455 篇相关文章
理解与生成统一多模态模型：现状与未来 | 直播预约
从GPT - 4o到Gemini，AI实现跨模态联合理解与生成，核心是统一多模态基础模型。但开源社区构建强大统一模型面临挑战。南大等团队梳理超750篇论文分析技术路线，将有直播探讨现状与未来。
图像、视频一模搞定！字节全能原生多模态本地可部署
字节开源原生多模态模型Lance，仅3B激活参数，40G显存就能跑，已登顶huggingface趋势榜。它能进行图像与视频的理解、生成、编辑等操作，在多个基准测试中表现优异，多项性能居首。
复旦等推出「第一人称视听基准」，补齐多模态模型「听觉拼图」
多模态大模型在真实世界会“失聪”，现有第一人称视频问答/理解基准长期偏“视觉中心”。复旦等团队推出首个系统评测第一人称声音理解能力的基准EgoSound，能让模型听懂世界，评测显示当前模型与人类差距大。
低延时、可交互的音频驱动肖像视频生成框架LLIA
美团提出新型音频驱动肖像视频生成框架LLIA，是低延迟、可实时交互的虚拟形象生成技术。它提出四项核心技术，引入三大核心模块，构建超100小时数据集，在多方面有出色表现。
多模态大模型持续学习系列研究，综述+Benchmark+方法+Codebase一网打尽！
近年来，生成式AI和多模态大模型进展显著，但在动态环境下实现持续学习是挑战。中科院自动化所联合香港院AI中心系统性研究，提出综述、方法、Benchmark和Codebase，为相关人员提供全面支持。
魔笔 AI Chat Builder：让 AI 对话秒变可交互界面
文章介绍阿里云魔笔AI Chat Builder，它能将AI对话变可交互界面。对比现有AI应用开发方式，阐述其综合优势，还介绍核心能力、搭建方法、多端发布等，未来将打磨能力并推新功能。
视觉Token注入CLIP语义，走向多模态理解与生成新范式
腾讯ARC Lab等机构提出全新视觉分词器TokLIP，将低级视觉Token与高级CLIP语义结合，支持端到端自回归训练，可接入LLM框架，降低计算与数据门槛，在多模态任务中表现优异，代码已开源。
DreamArt！只需一张图，生成可动的可交互物体
生成可动物体是具身智能等领域关键挑战，现有方法有局限。北大团队提出DreamArt框架，从单张图像生成可交互可动物体，经三阶段流程，表现优于基线方法，不过也存在生成不符物理规律等问题。
2025元宇宙大赛获奖作品公布｜“交互幻境”创意赛
2025年第三届元宇宙设计创意大赛“交互幻境”创意赛获奖作品公布。赛事3月启动，获上海工会支持，征集全球3148份作品。赛事探索元宇宙与现实融合，推动多领域数字化转型，下面介绍了各奖项获奖作品。
Monet：赋予多模态大模型如人类一般的抽象视觉思考能力
文章介绍了Monet模型，它实现了训练MLLM直接在连续隐空间思考的方法，内化视觉思考能力。还阐述了多模态模型隐式推理训练的难点，提出SFT+RL训练框架，构建数据集，经测试，Monet提升了视觉推理能力。