「过程奖励」共找到 538 篇相关文章
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
完全开源的7B模型，性能比肩主流LLM，训练成本仅16万美元，复现DeepSeek的强化学习！
Moxin-7B由多机构团队联合开发，遵循“开源科学”原则，公开全流程细节。它训练成本仅16万美元，评测表现亮眼，在架构、数据策略、训练过程等方面有创新，为中小企业提供可控AI方案。
GPT-6发布，OpenAI说AGI时代来了
北京时间9月4日凌晨，OpenAI发布GPT - 6 Astra，虽发布过程狼狈，但该模型在多项评测中表现出色，如数学评测、电脑操控等，但编程类任务未全面领先，且网络安全方面部分功能被限制。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
4B模型幻觉抑制能力超越GPT-5，CMU等提出行为校准强化学习新方法
大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
当行业争论30B能否挑战万亿参数时，清华、人大、面壁智能与OpenBMB联合研发的AgentCPM-Explore开源，基于4B参数在深度探索任务表现出色，还开源配套平台，解决小模型性能提升难题。
多模态推理新范式！DiffThinker：用扩散模型「画」出推理和答案
上海人工智能实验室等团队提出全新生成式多模态推理范式，发布模型 DiffThinker。它打破传统定式，以图像到图像生成任务重构推理过程，在多项复杂任务中表现优于顶尖闭源模型，有四大核心特性。
所有大模型，都学物理学：北大物理系一篇研究，震撼了AI圈
北大等机构团队跨界用物理学最小作用量原理，提出新颖方法估计 LLM 生成方向性，揭示其背后‘物理定律’。发现 LLM 生成有细致平衡现象，还能用物理指标给大模型画像，让 AI 研究提升到‘物理科学’高度。
AI研发新范式：基于技术方案全链路生成代码
文章指出过往代码补全方式存在局限，腾讯广告审核团队探索新AI开发范式。介绍业界AWS、Lovable范式，阐述审核团队实践范式，含定义、技术选型、过程标准化等，还提及进展、困难与未来展望。