搜索：强化学习范式

「强化学习范式」共找到 2266 篇相关文章

语言反思>强化学习：伯克利新架构碾压传统RL

大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。

北京大学周嘉欢与彭宇新教授合作在 IEEE TPAMI 发布研究成果 DKP++，针对终身学习的灾难性遗忘问题，提出分布建模引导的框架，增强历史知识记忆与跨域学习能力，代码已开源。

大模型技术推动AI从‘回答问题’迈向‘执行任务’，Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目，将前沿Agent Runtime与强化学习训练框架结合，为Agentic AI提供新训练基础设施。

现有生成式离线强化学习方法在复杂连续任务长程规划中易陷入局部合理但全局偏航的窘境。厦门大学和香港科技大学提出MAGE算法，采用自顶向下策略，实验显示其多任务表现出色、推理效率高。

HuggingFace与牛津大学研究者推出机器人学习教程，附带开源数据集、模型等的LeRobot库。教程从经典机器人学讲起，介绍强化、模仿学习及通用策略，还提及解决现实瓶颈的技术与前沿模型。

文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。

学界常用「监督微调（SFT）+ 强化学习（RL）」训练大模型。但新研究发现，SFT 会引发「伪推理路径」，阻碍推理进步。相比之下，直接进行 RL 训练，模型多模态推理上限更高，该团队训练的模型还刷新了纪录。

传统联邦学习中，统计异质性是障碍，本文提出 FedDRM，将联邦学习从「聚合范式」拓展到「路由范式」，让服务器能把问题交给最合适的客户端处理，在多数据集上提升系统准确率，为多场景提供新可能。

字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。

如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。