「奖励欺骗」共找到 260 篇相关文章
RL是「点金石」还是「挖掘机」？CMU 用可控实验给出答案
卡耐基梅隆大学研究者构建基于GSM - Infinite的可控合成数据框架，分析预训练、中期训练和RL对模型推理泛化能力的影响，调和了RL有效性的不同观点，为改进训练策略提供基础。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
美刊网使用介绍（2024版）
美刊网是一个鼓励内容推荐的平台，用户通过推荐文章赚取奖励，还能通过转发提高排名，获得更多收益。
寻找最强具身大脑！全球机器人顶会ICRA开启报名，智元全程陪跑带你拿奖
由智元主办的AGIBOT WORLD CHALLENGE @ICRA 2026赛事开启报名，设推理 - 操作和世界模型两赛道。智元提供顶配硬件、仿真平台、数据集和基线模型，还有超百万美元奖金与资源，助力开发者。
Shopify 经验贴：如何搞出一个生产级别可用的 AI Agent 系统？
Shopify 以 AI 助手 Sidekick 为例，分享从简单工具调用系统演变为复杂 AI Agent 平台的经验，包括架构设计、评估方法和训练技术等方面，还给出构建生产级别可用的 AI Agent 系统的四条核心建议。
西交大 x A*STAR 论文：让 AI 学会「保持一致」，多图生成迎来关键突破丨CVPR 2026
西安交大与新加坡A*STAR团队提出论文《PaCo-RL: Advancing Reinforcement Learning for Consistent Image Generation with Pairwise Reward Modeling 》，将一致性问题转为“跨图比较”学习问题，结合强化学习实现能力闭环，提升多图生成一致性。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
Anthropic突然封禁第三方工具调用Claude，Cursor、OpenCode、xAI 集体“中枪”！项目做到一半突遭中断，官方解释是“误伤”？
Anthropic突然阻止第三方工具调用Claude，引发社区不满。开发者在项目进行中访问权限中断，官方称是‘误伤’，但实则是对第三方工具使用路径的调整，社区对此反应不一。
强化学习之父：大语言模型走错了路，不符合「苦涩教训」精神
2024 年图灵奖得主、强化学习创始人之一 Richard Sutton 在播客中批评 LLM 发展方向，认为其无真正智能，违背「苦涩教训」原则，缺乏持续学习能力，仅模仿人类，未理解世界。此观点引发 AI 社区激烈讨论。
DeepMind 颠覆机器人学习范式：让机器像人一样 “自由成长”
谷歌DeepMind受大模型微调中强化学习阶段启发，提出面向机器人学的两阶段后训练方法，含监督微调与自我提升。实验显示该方法让机器人自主习得新技能、广泛泛化，但研究也存在标注成本高等局限。