算法论文8

MIT研究：RL后训练遗忘少，揭示遗忘定律

机器之心2025-09-09

AI 摘要

麻省理工学院研究：对比SFT和RL两种后训练方式，发现RL在学习新技能时更能保留旧能力。提出遗忘定律，证明新任务KL散度可预测遗忘，为持续学习系统设计提供新思路。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

传英伟达拟收购Reflection AI

本文是InfoQ编译的科技播客访谈，Reflection AI由前Google DeepMind Gemini团队成员创立，近期发布了5010亿参数的开放大模型Beam，主打编程、推理和智能体任务，发布一周后传出英伟达拟收购该公司的消息，访谈中分享了对开放模型诸多问题的观点。

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分，解决28个未解决开放数学问题，介绍了其可验证AI+强化学习的AI4S布局。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。