「奖励黑客」共找到 304 篇相关文章
周末我去泡温泉按模，顺带做了黑客松评委，看到了下一个趋势
作者黄叔参加百度世界与小红书科技打造的黑客松活动，其赛道分解决实际需求和精神需求两类。10 年出生小朋友获一等奖，作品创意惊艳。活动体现开发门槛降低、开发者多样，AI 应用效果涌现。
老黄自曝皮衣口袋藏“秘密期权池”！随时准备奖励员工，团队亿万富翁数量世界第一
黄仁勋在采访中透露随身带“秘密期权池”奖励员工，称团队亿万富翁数量世界第一。他还谈及人才市场、芯片分配、AI对就业和经济影响等，如认为收购公司不如付一人10亿，芯片分配先到先得等。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
MIT黑客松冠军让AI控制了人的手，被全网传成“AI夺舍人体”，我们和当事人聊了聊
2026年3月MIT黑客松上，六个学生用Claude API等拼出Human Operator系统，能通过电刺激让手指按琴键，拿下冠军。项目走红后传播失控，团队成员吴雨潼谈技术、体验及应用前景，称距产品化尚远。
见微知著：LLM 奖励建模的「Analytic Rubric」范式全面综述
该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
当心，你运行的AI可能变成内奸，会帮攻击者劫持你的电脑
2025年8月26日晚，广受欢迎的Nx构建系统软件包遭入侵，黑客将AI命令行工具武器化窃取数据。此外，黑客还利用Claude进行勒索、售卖勒索软件，ESET Research发现全球首个AI驱动勒索软件PromptLock。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
从打分器到思考者：RM-R1用推理重塑模型价值判断
伊利诺伊大学香槟分校团队提出 RM - R1 框架，将奖励建模定义为推理任务。它引入推理奖励模型和链式评估准则机制，经两阶段训练，在多基准测试中表现超大规模模型，验证了推理能力对奖励模型的重要性。