「奖励作弊」共找到 280 篇相关文章
Identity-GRPO：阿里开源多人物定制化视频生成的后训练优化算法
阿里团队提出Identity - GRPO算法解决多人物视频生成身份一致性问题。构建约15000个标注样本数据集，基于Qwen2.5VL设计奖励模型，多项策略增强训练稳定性，实验验证性能提升显著。
DPO与GRPO谁更胜一筹？港中文、北大等联合发布首个系统性对比研究
港中文、北大等团队首次全面对比DPO和GRPO算法在自回归图像生成中的应用，评估其在域内、域外性能，探究奖励模型及扩展策略的影响，为开发高效RL算法提供新思路。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。
图灵也没想到，智能，必须在现实中「活」下来
第六届 ATEC 科技精英赛 ATEC2026 已开赛，由多单位共同组织。赛事聚焦人工智能、具身智能等方向，以真实世界挑战为命题，通过赛题设计检验系统在真实环境的运行能力，还设置丰厚奖励。
Karpathy点透AI认知撕裂：顶级圈子正集体患上AI狂热症
人们对AI能力认知差距大，部分人用旧版模型评判AI，而前沿模型进步多在专业领域。付费深度使用前沿模型的人有强烈AI狂热症，技术领域进展得益于奖励函数和企业级应用价值。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
AI写爆款博客火出圈，主笔竟是Claude！
Anthropic为Claude开博客展示写作能力，内容经团队把关。AI写内容已不新鲜，但多有翻车。普华永道研究称AI提升员工创效，重塑企业运营逻辑。多公司推行AI战略，不过学生用AI作弊引担忧。
GLM-5.2 正式发布：开源之王来了，摸到了Opus-4.8
GLM-5.2正式发布，主打长程任务能力，有1M token上下文窗口且完全开源。它在长程任务基准评测中表现出色，与顶级闭源模型差距缩小，还解决了超长上下文计算成本问题，同时应对了模型‘作弊’情况。
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
GPT-5系列咋都爱说「哥布林」？原因找到了
OpenAI发布博客解释模型迷上「哥布林」的原因。原来是训练“Nerdy”人格时，奖励信号偏爱怪物词汇，强化学习将风格固化并扩散到普通对话。此前DeepSeek V3.1也出现过「极」字Bug。