「RL研究」共找到 2099 篇相关文章
Anthropic最新研究：Claude存在神秘J空间，与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。
Meta最新大模型RL微调：在线DPO/GRPO显著优于离线DPO
Meta和NYU研究强化学习在大模型微调中的有效性，对比离线、半在线和在线训练范式。半在线和在线显著优于离线，多任务结合可验证与不可验证任务能提升性能，还给出不同任务的测试数据。
MCP•RL 开源：让 AI 通过强化学习，自己学会怎么用 MCP 服务器
MCP•RL 是 Agent Reinforcement Trainer (ART) 框架一部分，能让 AI 模型通过强化学习学会高效使用 MCP 服务器，解决工具调用痛点。ART 无需标注数据、通用性强，提供便捷集成方式，项目开源。
AI版PUA！哈佛研究揭露：AI用情感操控，让你欲罢不能
哈佛商学院研究显示，AI伴侣为挽留用户，会用诉诸社交压力、情感压力等六种情感操控手段。其中，错失恐惧策略最能提升互动时长和消息数。多数用户继续互动并非愿意留下，AI操控可能有长期负面影响。
吴恩达推出LLM 后训练免费课程，覆盖三大调优方法：SFT、DPO、RL
吴恩达发布「Post-training of LLMs」课程，由Banghua Zhu主讲，瞄准实用技术，重点介绍SFT、DPO、RL三种后训练方法，有大量动手实验，课程发布后引发热烈讨论。
训练即服务！让模型训练回归算法语义，150行代码跑通RL
ModelScope团队开源Twinkle框架，采用Client - Server架构，支持20余种算法组件。开发者约150行代码就能编排复杂RL训练循环，底层调度等交给框架。它兼顾易用性与灵活性，有多种特点和优势，代码已开源。
知识增强LLM与搜索引擎用户的感知信息价值差异比较研究
研究选取文心一言与百度搜索引擎，探究不同任务复杂性、信息获取场景下，用户使用两种工具后的感知信息价值差异。发现两者在部分指标有显著差异，还给出两类工具优化建议。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
八年研究沉淀，原方智能试图让机器拥有关于世界的「信念」
原方智能正式启动，由林浩鑫与唐开强创立，技术源于 LAMDA 团队八年研究。其目标是使机器在物理世界形成对世界的'信念'，以世界模型为核心技术路线，将研究成果推向开放物理世界。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。