「奖励模型漏洞」共找到 7891 篇相关文章
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。
RL加持的3D生成时代来了！首个「R1 式」文本到3D推理大模型AR3D-R1登场
强化学习首次被系统性拓展到文本到3D生成领域，上海人工智能实验室等机构研究者提出首个强化学习增强的文本到3D自回归模型AR3D - R1，还提出Hi - GRPO范式和MME - 3DR基准，实验显示其性能优异。
比NanoBanana更擅长中文和细节控制！兔展&北大Uniworld V2刷新SOTA
兔展智能与北京大学的UniWorld团队推出图像编辑模型UniWorld - V2，它提出UniWorld - R1框架，在权威测试中超越顶尖闭源模型。该框架通用性强，能提升其他基础模型性能，相关论文、代码和模型已开源。
The Batch: 844 | AI 天气预测加速推进
美国国家飓风中心与 Google 的 Weather Lab 合作，利用新模型预测风暴。该模型能比传统方法更准确预测风暴形成、路径和强度，最长提前 15 天，测试表现优于 Google 之前的 GenCast 模型和 ENS 模型。
The Batch: 869 | 编码助手的训练数据
研究人员开发自动生成编码助手训练数据的流程。斯坦福等高校及阿里团队提出 SWE - smith 方法，从 128 个 Python 仓库入手合成漏洞、验证并生成修复样本，成果免费开放，有望改进 AI 辅助编程模型。
Identity-GRPO：阿里开源多人物定制化视频生成的后训练优化算法
阿里团队提出Identity - GRPO算法解决多人物视频生成身份一致性问题。构建约15000个标注样本数据集，基于Qwen2.5VL设计奖励模型，多项策略增强训练稳定性，实验验证性能提升显著。
DPO与GRPO谁更胜一筹？港中文、北大等联合发布首个系统性对比研究
港中文、北大等团队首次全面对比DPO和GRPO算法在自回归图像生成中的应用，评估其在域内、域外性能，探究奖励模型及扩展策略的影响，为开发高效RL算法提供新思路。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
中美 NeoLab 对话：模型和 Agent 如何实现「持续学习」？
在新加坡 AGI Playground 2026 舞台上，AMI Labs 林敏和 Mind Lab Andrew Chen 深度对谈，探讨 Agent 如何将经验转化为能力、持续学习。两人对持续学习给出不同答案，还讨论记忆、学习等基础问题及解决办法。
LSTM之父22年前构想将成真？一周内AI「自我进化」论文集中发布，新趋势涌现？
本文介绍AI模型自我进化方向的进展，涉及多机构的相关论文。如受“哥德尔机”启发的“达尔文哥德尔机”可自我改进；还有“自我奖励训练”“MM - UPT”“UI - Genie”等方法，展现AI自我进化潜力。