「奖励黑客」共找到 304 篇相关文章
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
突破通用领域推理的瓶颈！清华NLP实验室强化学习新研究RLPR
现有基于可验证奖励的强化学习（RLVR）应用范围局限，清华自然语言处理实验室提出 RLPR 技术，通过 Prob - to - Reward 提高概率奖励质量，有领域无关等特点，相关代码等已开源。
刚刚，GPT-5.6曝光了！GPT-5.5疯狂迷恋哥布林，OpenAI连夜封禁
新智元报道，GPT-5.6已在OpenAI后台日志现身，疑似进入金丝雀测试。同时，GPT-5.5疯狂迷恋哥布林，OpenAI封禁相关词汇。官方发文揭秘，是因性格定制功能奖励机制让模型学会“作弊”。
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。
Index-AniSora：B站开源动画生成模型，斩获多项SOTA入选IJCAI25
B站开源动画视频生成模型Index - AniSora，支持多种二次元风格视频镜头一键生成。基于AniSora系统，全面提升动画生产效率与质量，开源内容丰富，还构建奖励数据集和奖励模型提升对齐性能。
紧急警告：LiteLLM PyPI 包被植入恶意代码，请停止更新
月下载量9700万的Python库LiteLLM被黑客植入恶意代码，36%云环境或受影响。恶意代码分三阶段，可窃取敏感信息。攻击源于供应链漏洞，黑客利用被盗凭证发布恶意版本。官方已采取措施，建议用户自查。
港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026
扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。
OpenAI点赞转发的冠军项目，背后藏着一个国人3D生成团队
近日，iOS产品StoryWorld获OpenAI Codex Hackathon冠军，其核心3D资产生成用了DeemosTech的Hyper3D Rodin。从黑客松到英伟达工程场景，3D生成重稳定性等特性。Hyper3D团队技术强，发布编辑功能，推动3D生成走向可控。
无需验证器的RL：RLPR解锁LLM通用推理潜能
现有依赖强化学习与可验证奖励（RLVR）提升大语言模型（LLM）推理能力的方法，受限于领域特定验证器。本文提出RLPR框架，利用LLM生成正确答案的固有概率作奖励信号，实现无需外部验证器的通用领域强化学习，效果显著。
AI 正在奖励那些「最不专业」的人
文章以AI能力为上涨的潮水、个人专业技能为柱子作比，指出AI先替代简单重复工作，再逐级挑战复杂工作。高精尖专家因专业技能高难，难见AI价值；创业者则受益于AI对琐碎事务的处理。