搜索：RL训练方法 - AI Reading Hub

「RL训练方法」共找到 3344 篇相关文章

港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026

扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。

今天分享2篇2025最新RL×LLM的技术综述，分别聚焦“RL在LLM全生命周期的打法”和“RL如何炼成大推理模型”，梳理玩法、组件、算法演进等内容，还给出开源模型、数据等盘点。

文章指出AI时代人们多只有“领域内判断力”，判断力可当学科训练。介绍预测大赛中普通人表现超CIA分析师，1小时训练能提升10%准确度，还给出判断力3层栈框架及30天训练清单。

字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。

9月8日，上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快，尤其在超大规模稀疏混合专家（MoE）模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。

美国成人影片制作公司Strike 3 Holdings指控Meta自2018年起下载并分享2396部成人影片，约81.7TB，用于训练AI模型，涉嫌严重侵权。Meta未回应，文章还分析了用成人影片训练AI的可能原因。

清华、北通院和宾州州立大学研究人员提出“绝对零”训练法，让大模型通过自我博弈生成并解决任务获推理能力。测试显示，其训练出的模型超专家标注样本训练的模型，且能提升编程与数学推理表现。

Google发布Gemini 3 Deep Think，ARC - AGI - 2准确率高且采用并行推理技术。OpenAI发长文《通过忏悔训练大型语言模型诚实性》，介绍缓解LLM撒谎的忏悔训练法、实验结果等，也指出其局限。

微软新研究提出「强化预训练（RPT）」新范式，将下一个 token 预测任务重新定义为推理任务，可利用海量文本数据进行通用强化学习。该方法有可扩展性、低风险等优点，实验显示其提升了语言建模能力。

来自多机构研究者提出CoTo渐进式训练策略，解决LoRA训练难题。该策略在训练早期随机失活部分适配器，后期提高激活概率，提升模型融合、剪枝能力，还能增强单任务性能与训练效率，已被ICML 2025接收。