搜索：人类反馈强化学习

「人类反馈强化学习」共找到 1977 篇相关文章

奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式

在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。

马斯克宣布Grok可分析任何视频。它能对伪造视频鉴假溯源，但也有处理画面靠字幕、有幻觉问题和效果不稳定的缺陷。实测中它能理解无字幕视频，还整理访谈内容。这功能虽便利，但引发人类能力退化担忧。

一份标价8200元的煤炭研究报告称煤炭是可再生资源，可打怪获取，此事引发热议。很多人认为是AI写的，但报告是2022年出版，那时ChatGPT都未发布，实际是人类所为。AI暴露了行业内假装专业的垃圾内容。

今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。

文章借Snowflake分享，探讨数据从业者在AI时代的核心能力。介绍AI从工具到执行者的进化，指出数据叙事成稀缺技能，还给出普通职场人90天AI逆袭路线图，强调人类在决策判断上的不可替代性。

飓风Melissa来临前，DeepMind算法提前5天预言其强度变化。该模型用两类数据训练，能生成多种未来场景，在路径和强度预测上优于传统模型，已被NHC投入实战，但AI不能理解灾难，人类仍需做决策。

OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。

《2025 AI 趋势报告》指出，AI 智能体跨过鸿沟被广泛采用，能力比肩人类，成本优势显著，影响招聘。能源成制约，生成式 AI 普及快，收购成主要退出路径，虽估值高但基本面尚好，还分析了下一波创业切入点。

强化学习之父指出人工智能迈入「经验时代」，在此背景下，复旦、创智、字节研究者发布 AgentGym - RL 框架。它是全新端到端 RL 框架，提出 ScalingInter - RL 方法，7B 模型经训练追平顶尖商业模型，为 AI 发展注入动力。

论文提出Chain-of-Agents (CoA) 范式，结合多智能体系统与工具集成推理优势。通过多智能体蒸馏和智能体强化学习训练智能体基础模型（AFM），实验显示其在Web和Code任务上达新SOTA，效率、泛化性佳。