算法论文8

人大赵鑫团队：A3PO重塑推理模型训练

AI科技评论2026-01-16

AI 摘要

人大高瓴赵鑫团队研究推理模型训练，发现正样本收缩策略空间，负样本扩张。提出A3PO方法，针对关键token非对称加权，在多模型和任务上提升性能，让训练更可控。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

对错之外，推理轨迹暗藏训练价值

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。

IQuest Research联合北京航空航天大学、曼彻斯特大学等机构发布ModularRSI研究，探索在基础模型权重冻结的条件下，通过演化Agent外围运行机制Harness，实现可泛化的Agent自我改进，性能提升可跨任务、领域、模型迁移。

本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。