搜索：统一多模态生成编辑模型

「统一多模态生成编辑模型」共找到 3193 篇相关文章

ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式

本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。

上海人工智能实验室联合多所高校开源多模态一体化模型 InternVL-U，仅 4B 参数，突破现有统一多模态模型瓶颈，在复杂场景超越 14B 级模型，已全面开源，提供推理代码等。

随着多模态模型兴起，AI生成叙事性视频成热点，但现有方法处理长视频有挑战。哈工大发布AniMaker框架，由多个智能体协作，实现文本到动画自动化转换，解决了视觉连贯和叙事一致等问题。

UniPat AI 等发布多模态理解评测集 BabyVision，测试显示多模态大模型纯视觉能力仅达三岁幼儿水平。其通过对比实验、细分任务评测，揭示模型系统性缺基础视觉能力，还给出新方向及发展建议。

上海人工智能实验室等团队提出全新生成式多模态推理范式，发布模型 DiffThinker。它打破传统定式，以图像到图像生成任务重构推理过程，在多项复杂任务中表现优于顶尖闭源模型，有四大核心特性。

随着AIGC转向产业落地，监管对生成内容管控成趋势，AI生成内容风险也凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，现公开征集起草单位和个人。

清华朱军等团队提出多模态生成框架 UniCardio，在单扩散模型中实现心血管信号去噪、插补与跨模态生成。它采用扩散模型和 Transformer 架构，结合持续学习范式，实验表现优，有望用于多领域。

香港多高校与字节跳动联合研发的DreamOmni2系统，实现图像编辑与生成领域SOTA。它用三步造出高质量数据，提出索引编码等方案，联合训练模型，实际效果超越部分商业模型，为AI创作带来新可能。

深圳大学黄惠团队推出 CLR - Wire 方法，将复杂三维曲线框结构编码到连续潜空间，解决传统难题，能实现高效生成与平滑插值，相关代码已开源，在多领域有应用前景。

现有AI生图工具在结构化图像生成上问题多，理解与生成能力有鸿沟。港中文等校联合团队提出首个综合性方案，涵盖数据集构建、模型优化、评估基准三大模块，助多模态模型画准图，推动其发展。