「奖励黑客」共找到 304 篇相关文章
奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”
强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。
突破多模态奖励瓶颈！中科院清华快手联合提出R1-Reward，用强化学习赋予模型长期推理能力
多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
刚刚，OpenAI挖来黑客「祖师爷」！
OpenAI近期动作不断，菲尔兹奖得主、翁荔之后，黑客圈“祖师爷”Halvar Flake（真名Thomas Dullien）官宣入职。他是BinDiff之父，在谷歌有诸多成果，还参与开源项目用Claude修bug，此时加入或因GPT安全事件频发。
上海首场！一场专为女性设计的黑客松
上海将举办首场专为女性设计的黑客松「She Code Lab Hackathon」NO.C001，时间为2025年12月26 - 28日。活动约50 - 100人规模，由女性主导，核心是‘表达’与‘联结’，主题为‘利她技术’。
从 RLVR 到 RLSVR：开放式任务如何获得可核验奖励
COLM 2026 论文提出 RLSVR 及 SpyRL，把摘要等开放任务变成“谁是卧底”游戏，用投票生成可核验奖励，在多任务有提升，但也暴露代理目标与质量关系、成本等问题。
Talking-Critic奖励模型带来更自然的音频驱动肖像
近期音频驱动肖像动画技术发展快，但现有方法存在嘴型声音不对、动作不自然等问题。阿里提出Talking - Critic奖励模型，构建Talking - NSQ数据集，还提出TLPO优化框架，提升多维度表现，实验超现有SOTA方法。
这可能是今年门槛最低的黑客松比赛，速来！
2026开年Skill热度攀升，因其易搭建易分享且能交付结果。Founder Park联合扣子举办Skill招募大赛，设职场和极客两赛道，有流量、付费等奖励，还公布赛程、报名方式及好Skill的标准。
SmartSearch：奖励驱动query精炼，让Agent中的RAG会“改错”
现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。
谷歌首度证实：黑客已开始用AI发动真实网络攻击！
谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。