搜索：人类反馈强化学习

「人类反馈强化学习」共找到 1976 篇相关文章

世界模型+强化学习=具身智能性能翻倍！清华&加州伯克利最新开源

具身智能发展中样本效率成瓶颈，传统无模型强化学习依赖盲目试错。清华与加州伯克利团队提出BOOM框架，通过自举循环机制解决在线规划与策略学习矛盾，实验表现卓越，为具身智能落地提供支撑。

树根科技与三一集团团队联合提出 GIPO 算法，在机器人操控及大语言/视觉动作模型强化学习训练中，缓解了策略滞后痛点，改善了 PPO 硬截断引发的‘利用率崩溃’问题。介绍了 GIPO 算法原理、优势及实验结果。

学界常用「监督微调（SFT）+ 强化学习（RL）」训练大模型。但新研究发现，SFT 会引发「伪推理路径」，阻碍推理进步。相比之下，直接进行 RL 训练，模型多模态推理上限更高，该团队训练的模型还刷新了纪录。

英伟达CEO黄仁勋发布长文，指出AI是关键基础设施，运行依托硬件、能源与经济规律。AI可解构为五层架构，目前投入仅数千亿美元，未来还有数万亿规模待建，正演变成最大基建运动。

Dario Amodei万字长文指出，最早2027年或现超诺奖得主AI，人类面临安全威胁。他定义了“强大AI”，分析自主性、滥用、经济颠覆等风险，给出多方面防御措施，强调人类要直面问题。

Sam Altman认为人类已跨过临界点，构建出超人类智能系统，虽未现科幻场景，但显著提升生产力。预计2025 - 2027年AI有重大进展，奇点是渐进过程，要解决安全与可及性问题。

今天凌晨，Together.ai联合Agentica开源AI Agent框架DeepSWE，基于Qwen3 - 32B模型用强化学习训练。所有内容开源，测试中性能超所有开源Agent框架，证明强化学习训练潜力。

Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，人类干预减少。该版本能力大幅增强，还引入护栏机制保障安全，推出新运算级别和任务预算功能。

Andrej Karpathy在推文中反驳将大模型视作「更聪明人类」的观点，指出大模型是「非生物」智能，其进化压力、学习机制、运行方式与人类不同。清楚这是全新智能，对理解大模型很重要。

Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，减少人类干预。该版本能力大幅增强，还引入新护栏机制保障安全，推出新运算级别和任务预算功能。