「奖励黑客」共找到 307 篇相关文章
国产模型编程能力卷到这个程度了？MiniMax-M2.5 深度实测
文章深度实测MiniMax-M2.5编程能力，用其开发多款游戏和点名工具，结果出色。还分析其底层技术，如原生Agent RL框架、过程奖励机制等，指出它性价比高，虽有不足但值得关注。
AGI前夜重磅：RL突破模型「认知上限」，真·学习发生了！
AI研究圈争论RL能否赋予模型超越基础模型的推理能力。UC Berkeley等团队提出DELTA框架，观察到“RL grokking”现象，还设计新任务验证，提出两阶段奖励调度，总结两种模式等，为争论带来新依据。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
从中国“霸榜”到全球开源，AI的新思考！GOSIM HANGZHOU 2025圆满收官
9月12 - 14日，GOSIM HANGZHOU 2025在杭州举办，吸引全球众多开源与AI相关人士。大会有2场Keynote、2大高端论坛、5大分论坛，还有Rust相关活动、Workshop、黑客松等，呈现开源与AI技术融合成果。
英伟达GPU被曝严重漏洞，致模型准确率暴跌99.9%
英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。
AI短片节创作者招募：在崇礼，用AI讲一个未来故事｜甲子光年
「Future Now/未来此刻」2026夏季崇礼论坛将启幕，设立「Chongli AI Film Lab」专场论坛，发起AI短片节。面向全球创作者征集作品，有两大创作方向，生数科技Vidu全程支持，对作品有要求，还有丰厚奖励。
比人类专家快2倍，斯坦福联合英伟达发布TTT-Discover：用「测试时强化学习」攻克科学难题
斯坦福与英伟达等机构联合提出 TTT - Discover 方法，让 LLM 在测试时强化学习。它在多任务上成绩出色，如在数学、GPU 内核等领域超越人类和其他 AI，计算成本低，或为持续学习打开新空间。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
快手Klear-Reasoner登顶8B模型榜首，GPPO算法双效强化稳定性与探索能力！
快手Klear团队推出Klear-Reasoner模型，基于Qwen3 - 8B - Base打造，在多基准测试达同规模SOTA。其核心GPPO算法能强化稳定性与探索能力，团队还对训练流程多环节深入分析，给出优化策略。
刚刚！北大校友Lilian Weng最新博客来了：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。