「自我奖励」共找到 566 篇相关文章
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
改变强化学习范式，Meta新作呼应Sutton「经验时代」预言
图灵奖得主等提出AI智能体将迎「经验时代」，但训练面临挑战。Meta研究用「早期经验」范式解决问题，包含隐式世界建模和自我反思，提升了智能体任务成功率和泛化能力。
还需付费卸载龙虾？这只龙虾能直接「杀死」OpenClaw
OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
打脸OpenAI！谷歌Gemini高级版获IMO 2025官方认证金牌：纯自然语言端到端推理
谷歌DeepMind宣布高级版Gemini在2025年IMO中6题解5题获金牌，经官方认证，全程用自然语言推理。对比OpenAI自我宣称拿金牌，谷歌成绩更有说服力，还介绍了Gemini进步及实现方法。
Claude 4如何思考？资深研究员回应：RLHF范式已过，RLVR已在编程/数学得到验证
Anthropic两位研究员在博客采访中透露Claude 4思考细节。提到可验证奖励强化学习RLVR在编程和数学领域获证明，探讨了RL扩展、模型自我意识等，还为大学生给出AI领域建议。
通往通用人工智能的关键一步？DeepMind放大招，3D世界最强AI智能体SIMA 2
Google DeepMind发布SIMA 2，这是能在虚拟3D世界自主游戏、推理和学习的通用AI智能体。它集成Gemini模型，从指令跟随到主动认知跃进，泛化性能提升，还具备自我提升能力，为AI和机器人技术发展提供新路径。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
龙虾让位！硅谷顶流AI「爱马仕」一夜闯进微信，冲上全球第一
硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。
OpenAI推出GPT-5.4 mini/nano；MiniMax发布M2.7；小米发布MiMo-V2系列模型
OpenAI、MiniMax、小米陆续发布新模型。OpenAI推GPT - 5.4 mini与nano，优化速度和成本；MiniMax的M2.7能自我演化；小米MiMo - V2系列覆盖智能体核心、全模态理解和情感语音合成。