「可验证过程奖励」共找到 1293 篇相关文章
刚刚，GPT-5.6曝光了！GPT-5.5疯狂迷恋哥布林，OpenAI连夜封禁
新智元报道，GPT-5.6已在OpenAI后台日志现身，疑似进入金丝雀测试。同时，GPT-5.5疯狂迷恋哥布林，OpenAI封禁相关词汇。官方发文揭秘，是因性格定制功能奖励机制让模型学会“作弊”。
OpenClaw安全有救了！不改内核、无视AI内部逻辑，数学级枷锁驯服暴走智能体
OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。
当 Agent 尝试接管浏览器，连“我是人类”都证明不了？上海交大开源发布交互评测基准 HLL
随着多模态大模型发展，Web Agent 面临验证码挑战。上海交通大学等团队发布 HLL 评测基准，解耦真实度为三维度，对 8 款前沿模型测试，揭示 Agent 在多步交互微操上的短板。
Index-AniSora：B站开源动画生成模型，斩获多项SOTA入选IJCAI25
B站开源动画视频生成模型Index - AniSora，支持多种二次元风格视频镜头一键生成。基于AniSora系统，全面提升动画生产效率与质量，开源内容丰富，还构建奖励数据集和奖励模型提升对齐性能。
国家队出手！AI智能体要发「身份证」，首个互联国标将落地
2026年5月8日，多部门联合发布《实施意见》，推动智能体应用，加强AIP等关键国标应用。全国信标委编制的AIP系列国标将公布，现启动AIP协议应用验证先锋计划，招募伙伴开展工作并明确权益义务。
智能体并非越多越好，45%准确率成关键拐点
Google研究《Towards a Science of Scaling Agent Systems》验证“智能体并非越多越好”。在GPT等上实验发现，单个智能体准确率超45%，增加数量会损性能，还揭示工具税、错误螺旋等问题，给出预测公式。
29个月增长100倍：一个AI 2.0公司应该怎么建？HeyGen的取胜的秘密
AI视频生成公司HeyGen在29个月内ARR从100万美元增长到超1亿美元。创始人Joshua Xu公开取胜秘密，即独特运营模式‘The HeyGen Way’，包括拥抱变化、匹配节奏、最小化快速验证迭代等理念。
陶哲轩最新演讲：AI 不是来抢数学家蛋糕的，是来把蛋糕做大的
陶哲轩在 SAIR 基金会活动演讲指出，数学领域工作方式正被新技术撬动。数学保守、协作难，而形式验证是关键。他主导项目用三个月解决 2200 万代数题，还探讨了 AI 在数学中的应用，认为它应做大蛋糕。
港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026
扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。