搜索：偏好强化微调

「偏好强化微调」共找到 953 篇相关文章

小扎「梦之队」首批论文上线！LLM自举进化，单步性能狂飙22%

Meta超级实验室MSL新论文探索用强化学习微调大语言模型。提出探索迭代（ExIt）法，基于RL自动课程学习，训练仅需单步任务，模型学会多步自我改进。在MLE - bench上，ExIt相对GRPO提升约22%。

微软副总裁 Nando de Freitas 在 X 上「开课」，分享人工智能教育帖子，从 LLM 的强化学习讲起。内容涵盖无监督、监督、强化学习定论，分布式强化学习系统构建，RL 用于后训练 LLM 等，还介绍单步强化学习与策略梯度及相关技巧。

人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。

论文评估20余个开源推理模型在多领域表现，发现多数模型数学成功难迁移。揭示微调方法（RL vs SFT）决定能力泛化，SFT像‘填鸭’，RL似‘思维健身’，为构建通用推理智能体提供新路径。

当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。

Thinking Machines公司发布Tinker API用于开放权重语言模型微调，可减少开发者基础设施开销。支持多种模型架构，集成LoRA，还发布开源存储库。虽有竞品，但Tinker侧重暴露低级原语，尚处封闭测试。

数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。

Thinking Machines 发布工具 Tinker，它是灵活的语言模型微调 API，采用‘责任分工’模式，让研究者专注算法创新，不用被运维细节拖累。此模式获 Karpathy 赞赏，目前 Tinker 开始内测，理念受欢迎。

本文是阿里巴巴算法专家曹宇在 AICon 2025 北京站的分享，结合算法实践展示 RL 系统现状及发展脉络，探讨未来超大规模 RL 发展方向，涉及理论基础、业界实践、开源生态及社区共建。

本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。