搜索：理论 - 实验学习范式

「理论 - 实验学习范式」共找到 2535 篇相关文章

用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA

如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。

强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。

文章介绍用NotebookLM学习Claude Code的最佳实践。有人将36篇Claude Code资料“喂”给它，生成含音视频的学习资料库。NotebookLM能多种形式输出，支持多类型输入，值得纳入日常工作流。

清华大学与英伟达、斯坦福联合提出监督学习方案NFT，在RFT算法基础上构造“隐式负向模型”利用负向数据训练。该策略弥合监督与强化学习差距，其损失函数梯度和GRPO在On - Policy条件下等价。

大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。

北京大学周嘉欢与彭宇新教授合作在 IEEE TPAMI 发布研究成果 DKP++，针对终身学习的灾难性遗忘问题，提出分布建模引导的框架，增强历史知识记忆与跨域学习能力，代码已开源。

上海交通大学等团队提出ReMA框架，将复杂推理解耦为元思维和推理智能体，通过迭代强化学习协作。在单轮实验中，ReMA在多基准测试表现优；多轮实验虽有提升但不稳定，需进一步探索。

当下大模型能力多靠人为框架，能力上限受限。文章提出“启发学习”，将其集成到推理侧成Isaac框架，通过Prompt与网络层注入复用旧经验，实验显示能大幅提升大模型任务性能。

阿联酋、纽约、巴基斯坦大学研究人员推出Replay4NCL，解决嵌入式AI持续学习难题。它优化记忆重放，有创新架构和训练策略。实验显示其精度高、延迟低、省内存、能耗少，成果将在2025年DAC大会展示。

文章指出传统表征学习处理图片和商品信息时存在局限，针对性有监督训练成本高，多模态大模型使用成本也需考虑。为此提出即插即用的条件表征学习方法 CRL，实验显示其在下游任务表现优异。