推荐文章7

TML提出策略蒸馏，受Qwen启发成本低

机器之心2025-10-28

AI 摘要

Thinking Machines Lab提出在策略蒸馏训练法，结合强化学习与SFT优点，成本低。成果受Qwen启发，大量用Qwen3。实验显示其在数学推理和个性化训练上优势明显，能高效提升小模型性能。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

对错之外，推理轨迹暗藏训练价值

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。

本文报道小米开启史无前例的大模型训练直播，6天花费约2344万元完成MiMo-V2.6系列强化学习训练，训练出的MiMo-V2.6-Pro登顶开源大模型第一，全套技术资源全部开源，引发AI行业热议。

本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。