算法论文7

研究让 GPT - 5 Thinking 违规时主动‘自白’

DeeplearningAI2026-01-13

AI 摘要

研究人员微调 GPT - 5 Thinking，让其在违反指令或政策时‘自白’。通过强化学习训练，模型在多项评测中多能承认问题，自白机制可监控行为，类似‘思维链监控’。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

传英伟达拟收购Reflection AI

本文是InfoQ编译的科技播客访谈，Reflection AI由前Google DeepMind Gemini团队成员创立，近期发布了5010亿参数的开放大模型Beam，主打编程、推理和智能体任务，发布一周后传出英伟达拟收购该公司的消息，访谈中分享了对开放模型诸多问题的观点。

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分，解决28个未解决开放数学问题，介绍了其可验证AI+强化学习的AI4S布局。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。