搜索：模型表征对齐

「模型表征对齐」共找到 7992 篇相关文章

复旦上线音视频模型新裁判：一万组数据对齐人类审美

现有音视频生成领域的奖励模型多依赖局部指标打分，不符合人类整体审美感受，易让模型“刷高分”却未真正提升生成质量。复旦大学团队推出VA-Judger，基于一万组人类偏好数据训练，可从整体维度判断生成质量，对齐人类审美。

强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。

360人工智能研究院发布 FG - CLIP 模型，攻克图文细粒度对齐难题，成果被 ICML 2025 接收并开源。它采用双阶段训练等策略，在多任务评测中超越对比模型，推动跨模态研究产业化落地。

本文介绍发表于Nature Machine Intelligence的最新研究，系统探究语言模型与人脑推理表征的对应关系，验证人脑信号可引导提升语言模型推理鲁棒性，为脑启发AI提供了新研究路径。

阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。

大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。

香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。

B站开源动画视频生成模型Index - AniSora，支持多种二次元风格视频镜头一键生成。基于AniSora系统，全面提升动画生产效率与质量，开源内容丰富，还构建奖励数据集和奖励模型提升对齐性能。

OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。

深度跃迁发布世界动作模型 DELE - w0.5，放弃基于视频生成模型的路线，训练时联合学习动作与未来世界表征，推理时移除该表征分支。在真机实验中表现超基线，具跨背景泛化能力，为世界模型提供新思路。