算法论文8

SelectiveRM：让奖励模型忽略错误偏好

AI科技评论2026-05-13

AI 摘要

浙江大学等团队提出SelectiveRM，打破‘观测偏好=真实偏好’假设，通过选择性分布对齐排除噪声偏好。实验证明其有效提升奖励模型质量和下游RLHF安全性，为噪声反馈下学习提供新范式。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

前OpenAI研究员：Jev前AI是悲剧

本文是对前OpenAI研究员、TypeSafe创始人Diogo Almeida的访谈，Diogo推出新型大模型Jev，批判现有Codex、Claude Code等AI产品的路线缺陷，提出面向程序直接调用的AI新方向。

本文整理了前OpenAI核心研究员、Jev模型创始人Diogo Almeida的完整访谈，Diogo批判当前行业all in聊天大模型的路径偏差，推出专为程序决策设计、不做聊天交互的Jev模型，提出全新RLCD技术范式，倡导AI作为软件底层基础设施赋能自动化生产力。

现有音视频生成领域的奖励模型多依赖局部指标打分，不符合人类整体审美感受，易让模型“刷高分”却未真正提升生成质量。复旦大学团队推出VA-Judger，基于一万组人类偏好数据训练，可从整体维度判断生成质量，对齐人类审美。

BIGAI与中科大等团队提出MILR，通过测试时隐空间推理，在不更新模型参数下优化图文表示，提升复杂图像生成能力。该方法在多基准测试达SOTA，还探讨了测试时扩展与奖励模型，未来有诸多拓展方向。