「虚假奖励」共找到 260 篇相关文章
只因一个“:”，大模型全军覆没
一篇论文发现冒号等符号、“Thought process：”等语句能欺骗LLM，让虚假回答通过。实验表明所有测试模型都会触发假阳性响应。研究人员构建新“评委”模型Master - RM，可让假阳性率接近0%。
被传GPU部门被中芯国际收购，Imagination：消息不实
近期市场传中芯国际拟收购Imagination GPU部门，该公司昨晚声明辟谣，称未与任何公司就出售GPU IP业务达成协议，保持独立运营，GPU业务稳健，还将追究散布虚假信息者法律责任。
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
4B模型幻觉抑制能力超越GPT-5，CMU等提出行为校准强化学习新方法
大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
当行业争论30B能否挑战万亿参数时，清华、人大、面壁智能与OpenBMB联合研发的AgentCPM-Explore开源，基于4B参数在深度探索任务表现出色，还开源配套平台，解决小模型性能提升难题。
复杂空间推理新SOTA，性能提升55%！中山大学新作SpatialDreamer
中山大学等机构推出SpatialDreamer，模拟人类空间认知过程，构建闭环推理流程，还提出GeoPO解决奖励稀疏问题，构建SpatialDreamer - SFT数据集。实验显示其在多基准达SOTA，为AI空间智能发展开辟新路径。
初赛鸣金，精英集结 | 云谷杯·2025 人工智能应用创新创业大赛初赛顺利举行
11月7日，云谷杯·2025人工智能应用创新创业大赛初赛线上举行，100余项目角逐，30个进复赛。大赛多方主办，赛制等全面升级，有丰厚奖励和政策支持，承办方InfoQ助力项目成长，复赛将选10强。
刚刚，Meta风雨飘摇中发了篇重量级论文，作者几乎全是华人
风雨飘摇的Meta发布重量级论文《Agent Learning via Early Experience》，提出「早期经验」新范式，让AI智能体「无师自通」，为突破强化学习瓶颈提供新思路。该范式结合两种策略，实验效果显著，还指出了局限与未来方向。
微软开源2025 ICML获奖框架，终结大模型多轮对话严重缺陷
微软开源2025年ICML获奖框架CoLLabLLM，可解决大模型多轮对话缺陷。它由四大模块构成，经多轮对话模拟和奖励优化模型。在三大基准平台测试显示，能在多样任务中高效协作。