「带可验证奖励的强化学习」共找到 1547 篇相关文章
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
基于Agent的SGLang Diffusion Kernel优化实践：Qwen-Image、FLUX.2和视频模型
本文记录基于Agent完成Qwen-Image、FLUX.2、Wan和SANA Video优化的过程，包括定位问题、写Kernel及遇到的坑。介绍SGLang Diffusion Kernel结构，分析数值敏感原因，展示各模型优化实践、无收益实验及验证流程。
用Rust重写OpenClaw，Transformer作者下场造了安全版「龙虾」
Transformer八子之一Illia Polosukhin用Rust构建安全版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安全风险，IronClaw以安全为核心，有多项安全设计，未来还会增加策略验证等能力。
港中文 MMlab×美团新研究：仅用一个模型，应对多种视觉推理任务
港中文 MMLab 与美团联合提出 OneThinker 多模态统一推理模型，将多种视觉任务抽象为‘先推理、后作答’形式，通过多任务强化学习优化。实验显示其在多任务表现佳，为通用视觉推理模型提供参考。
马斯克亲自点名Karpathy迎战Grok 5！别神话LLM，AGI还要等十年
OpenAI创始元老Karpathy称AGI仍需10年，指出实现AGI难题多。马斯克点名其与Grok 5编程大战被拒。Karpathy还谈及LLM、强化学习、智能体等观点，主张合理看待AI发展。
波士顿动力机器狗侧空翻炸场！穿轮滑鞋照样能翻
风头被中国机器人盖过的波士顿动力，让机器狗Spot完成侧空翻等动作。工程师称它并非为空翻设计。空翻是严苛测试手段，能验证系统性能，还透露了训练细节，此外它还将上《美国达人秀》。
DeepSeek 跃居全球第二 AI 实验室，中美正式并驾齐驱！
Artificial Analysis宣称DeepSeek R1跃居全球第二，其0528版得分达68分，与Google Gemini 2.5 Pro并列。更新体现强化学习的重要性，多家云服务提供商也迅速支持新模型，这表明开源与闭源模型差距缩小，中美AI并驾齐驱。
315曝光的“AI投毒”原理：GEO这样操控大模型推荐
央视3·15晚会揭开AI“投毒”灰色产业链，利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术，还阐述了内容生产、渠道投放、效果强化的产业链运转流程。
不平衡数据下对比学习的理论分析：从训练动态到剪枝解决方案
本文第一作者为新泽西理工学院廖海旭。对比学习在类别不平衡数据下面临挑战，此前研究未考虑其影响。本文构建理论框架刻画训练动态，定量分析少数特征影响，提出剪枝算法增强少数特征学习，实验验证其有效性。
前OpenAI灵魂人物Jason Wei最新演讲！三大思路揭示2025年AI终极走向
前OpenAI核心研究员Jason Wei在斯坦福演讲，提出AI发展三大思路。他认为智能会商品化、成本下降，自适应算力出现；所有能被验证的任务最终会被AI解决；AI智能呈锯齿状，不会瞬间超越人类。