推荐文章8

Thinking Machines：LoRA 低成本媲美全量微调

机器之心2025-09-30

AI 摘要

Thinking Machines 研究表明，LoRA 在多数后训练场景成本远低于全量微调，效果却相近。小到中等数据规模下高秩 LoRA 性能与全量微调无差，强化学习中低秩也能接近，且超参数规律让其使用更便利。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

对错之外，推理轨迹暗藏训练价值

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。

本文报道小米开启史无前例的大模型训练直播，6天花费约2344万元完成MiMo-V2.6系列强化学习训练，训练出的MiMo-V2.6-Pro登顶开源大模型第一，全套技术资源全部开源，引发AI行业热议。

本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。