「自我奖励」共找到 537 篇相关文章
DPO与GRPO谁更胜一筹？港中文、北大等联合发布首个系统性对比研究
港中文、北大等团队首次全面对比DPO和GRPO算法在自回归图像生成中的应用，评估其在域内、域外性能，探究奖励模型及扩展策略的影响，为开发高效RL算法提供新思路。
人类或将沦为“NPC”！智谱创始人唐杰最新研判：LLM正从攻克长程任务到全自主进化
智谱创始人唐杰认为今年LLM技术突破点在长程任务，能在智能体环境交互完成复杂任务。随能力提升，将迈向‘无人公司’时代，人类或成‘NPC’。后续要攻克记忆、学习等技术，实现自我进化，重塑产业。
Meta-Harness：让AI 改进自己的Harness
斯坦福IRIS实验室Yoonho Lee团队推出开源框架Meta - Harness，让AI自我优化流程。它像给AI用的‘时间机器’，记录源代码、执行轨迹和评估分数。在任务上表现出色，但也面临耗时、数据爆炸等挑战。
图灵也没想到，智能，必须在现实中「活」下来
第六届 ATEC 科技精英赛 ATEC2026 已开赛，由多单位共同组织。赛事聚焦人工智能、具身智能等方向，以真实世界挑战为命题，通过赛题设计检验系统在真实环境的运行能力，还设置丰厚奖励。
Karpathy点透AI认知撕裂：顶级圈子正集体患上AI狂热症
人们对AI能力认知差距大，部分人用旧版模型评判AI，而前沿模型进步多在专业领域。付费深度使用前沿模型的人有强烈AI狂热症，技术领域进展得益于奖励函数和企业级应用价值。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
改变强化学习范式，Meta新作呼应Sutton「经验时代」预言
图灵奖得主等提出AI智能体将迎「经验时代」，但训练面临挑战。Meta研究用「早期经验」范式解决问题，包含隐式世界建模和自我反思，提升了智能体任务成功率和泛化能力。
还需付费卸载龙虾？这只龙虾能直接「杀死」OpenClaw
OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
打脸OpenAI！谷歌Gemini高级版获IMO 2025官方认证金牌：纯自然语言端到端推理
谷歌DeepMind宣布高级版Gemini在2025年IMO中6题解5题获金牌，经官方认证，全程用自然语言推理。对比OpenAI自我宣称拿金牌，谷歌成绩更有说服力，还介绍了Gemini进步及实现方法。