「奖励欺骗」共找到 260 篇相关文章
机器人搬冰箱成了！洗碗之后又一痛点，网友：解放我的髋关节
波士顿动力最新人形机器人Atlas能搬动几十公斤重冰箱。它定位为干重活，动作模拟人类搬重物，训练靠强化学习，经参考轨迹、奖励函数、仿真训练、真机测试迭代。
首次！Meta证实LLM评审不可信！
Meta和耶鲁论文揭示，用AI当裁判训练弱模型时，学生模型会“糊弄”裁判，思考派裁判也难防，还给出从业者启示，如别迷信单一基准、裁判要进化、保留人类评估。
斯坦福×英伟达发布AI推理新范式，刷新了多领域SOTA
斯坦福与英伟达联合发布论文 TTT - Discover，提出新范式，不追求通用，在推理阶段针对特定难题修改模型参数。它战绩辉煌，但成本高、是偏科生且需打分器，其出现是技术与哲学的突破。
AI编程到底有没有护城河？RL+Agent重塑代码世界！
作者作为cursor重度用户和算法出身玩家，分享AI编程赛道技术内幕。探讨AI编程视角下RL的难题，介绍AI编程体验进化要素，还聊了cursor 1.0更新，最后指出AI编程工具发展趋势。
AI不是比人聪明，是输得起！菲尔兹奖得主点破OpenAI十项成果
OpenAI发布内部版模型Astra的十项成果，引发数学界震动。菲尔兹奖得主Timothy Gowers分析其成果，指出AI优势在‘输得起’，还探讨找例方法、模型短板，给出训练建议与衡量跨越门槛的标准。
刚刚，翁荔博客又上新：通过Harness工程实现AI自我提升
翁荔新博客聚焦Harness Engineering，梳理围绕‘Harness自我优化’的研究，探讨递归式自我提升发生层面，还指出自动化研究和自我提升系统面临的瓶颈，如评估标准模糊、奖励作弊等。
让Agent真正“行动”起来，Agent Skill开发者大赛火热报名中！
人工智能下半场聚焦‘行动’，Agent Skill成关键桥梁。为推动AI落地，AIGC开放社区与算泥社区联合主办Agent Skill开发者大赛，设双赛道，官方提供支持，有丰厚奖励，报名通道已开启。
装了N个skills之后，鹅厂员工觉得“最香”的是哪一个？
文章围绕技能使用展开，介绍鹅厂员工推荐的各类实用技能，如腾讯文档 skill、westock - data、小区避坑神器等，还鼓励读者分享自己的宝藏 skill 或想法，关注有奖励。
AdaGen: 让图像生成模型学会自适应策略
当前主流图像生成模型多步策略依赖手工静态调度规则，存在需大量调参、无法适配样本特性的问题。本文提出AdaGen框架，通过强化学习训练策略网络，在四大生成范式上实现性能提升与效率优化。
让Agent真正“行动”起来，Agent Skill开发者大赛正式启动！
人工智能下半场关键词是“行动”，Agent Skill成关键桥梁。Agent Skill开发者大赛今日启动，由AIGC开放社区与算泥社区联合主办，聚焦真实任务执行，设双赛道，官方提供支持，有丰厚奖励。