算法论文7

FP8全流程训练用于RL，提升MoE模型训推一致性

GiantPandaLLM2025-11-21

AI 摘要

SGLang等团队实现RL全流程FP8训练采样。FP8有降低显存等优势，但训练遇显存、精度等难题。实验表明量化误差致训练异常，统一FP8训推可提升MoE模型训练稳定性，抑制训推不一致。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

九章云极问鼎陶哲轩数学挑战赛

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分，解决28个未解决开放数学问题，介绍了其可验证AI+强化学习的AI4S布局。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。

本文报道小米开启史无前例的大模型训练直播，6天花费约2344万元完成MiMo-V2.6系列强化学习训练，训练出的MiMo-V2.6-Pro登顶开源大模型第一，全套技术资源全部开源，引发AI行业热议。