算法论文8
GMPO:大型语言模型强化学习新路径
机器之心
AI 摘要
赵毓钟等研究者提出GMPO,它优化几何平均替代GRPO的算术平均,解决训练不稳定问题。实验显示,在语言和多模态任务中,GMPO策略更新更稳定、奖励更高、过拟合风险更低。
阅读原文 · 机器之心
大型语言模型稳定强化学习的新路径:几何平均策略优化GMPO
本文介绍了大型语言模型稳定强化学习新路径——几何平均策略优化GMPO。它是GRPO稳定化版本,通过优化几何平均替代算术平均,解决GRPO训练不稳定问题,在多任务实验中显著优于GRPO。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
V-Rubrics细化多模态强化学习奖励
本文介绍南洋理工大学等机构研究团队提出的V-Rubrics方法,解决多模态推理中结果正确但推理错误的奖励分配误区,通过35万条细粒度准则拆分奖励计算,有效提升模型性能,论文已被EMNLP 2026主会接收,代码与数据已开源。
机器之心
算法论文9
对错之外,推理轨迹暗藏训练价值
本文结合EchoRL、ReflectRL两项最新研究,重新解读推理轨迹的训练价值,解决全答对无强化信号、错题全丢弃的训练痛点,梳理方法设计、实验结果与适用边界,为大模型推理训练提供新参考。
深度学习自然语言处理
算法论文8
小偏差为何带偏大模型RL训练
本文解读Together AI的新算法论文,讲解大模型强化学习中,采样端与训练端的微小偏差如何累积放大导致训练跑偏,介绍Score Centering校正方法的原理、效果与应用边界。
深度学习自然语言处理
开源动态9
小米6天烧2000万拿下开源第一大模型
本文报道小米开启史无前例的大模型训练直播,6天花费约2344万元完成MiMo-V2.6系列强化学习训练,训练出的MiMo-V2.6-Pro登顶开源大模型第一,全套技术资源全部开源,引发AI行业热议。
量子位