算法论文8

快手Klear团队：CE - GPPO解决强化学习熵不稳

机器之心2025-10-25

AI 摘要

快手Klear团队提出CE - GPPO算法，针对强化学习中熵不稳定问题，通过梯度保留策略重新利用裁剪外梯度。实验显示，该算法在多基准测试超其他方法，能平衡探索与利用，稳定提升性能。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

传英伟达拟收购Reflection AI

本文是InfoQ编译的科技播客访谈，Reflection AI由前Google DeepMind Gemini团队成员创立，近期发布了5010亿参数的开放大模型Beam，主打编程、推理和智能体任务，发布一周后传出英伟达拟收购该公司的消息，访谈中分享了对开放模型诸多问题的观点。

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分，解决28个未解决开放数学问题，介绍了其可验证AI+强化学习的AI4S布局。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。