「人类反馈强化学习」共找到 1973 篇相关文章
Hinton上海演讲：大模型跟人类智能很像，警惕养虎为患
深度学习之父Hinton在上海演讲《数字智能是否会取代生物智能》，指出人类可能是大语言模型，也会有幻觉，但大语言模型优于人类大脑，知识传递高效。他呼吁建立国际社群，培养不夺权的好AI。
MMLU已死？「人类最后考试」登Nature：全球AI模型集体不及格！
AI发展迅猛，现有基准测试难以跟上其步伐。近1000名研究人员组成的全球联盟创建「人类最后的考试」（HLE），涵盖多领域难题，目前最强AI准确率不足50%，凸显AI与人类专家的差距。
Anthropic 研究员：强化学习将推动 Transformer 实现 AGI
在 AI Agenda Live 纽约活动上，Anthropic 强化学习团队技术负责人 Sholto Douglas 称，无需新架构突破，强化学习能让 Transformer 达人类专家级别表现，接近 AGI。但定义「好表现」是难题，Anthropic 或投 10 亿美元提升模型企业应用表现。
从上下文工程到 AI Memory，本质上都是在「拟合」人类的认知方式
文章结合胡塞尔现象学，探讨从上下文工程到AI Memory，指出它们本质在‘拟合’人类认知。介绍二者概念及构建方法，对比人类与AI记忆异同，还通过与胡塞尔对话，思考AI意识等哲学问题。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。
AI辩论能力碾压人类，81.7%概率让你信服！研究登Nature子刊
《自然·人类行为》研究指出，在线辩论中，大语言模型根据对手特征个性化论点时，比人类更具说服力。实验显示，与GPT - 4辩论的参与者有81.7%更高概率认同其观点，应加强对大模型舆论操控的监管。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
AI教父Hinton最新警告：AI会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还探讨了AI底层逻辑、是否会思考、风险与收益等，强调国际需合作防AI夺权，人类要研究与AI共存。
AI科学家登场！12小时抵人类科学家半年工作量，已有7项大成果
OpenAI CEO奥特曼期待GPT - 6实现「AI创造新科学」，类「AI科学家」Kosmos登场。它12小时完成人类半年工作量，有7项成果，能自主规划，从工具迈向合作者，但约20%结论需人类裁判，人机协作或重塑科研。
字节&MAP重塑大模型推理算法优化重点，强化学习重在高效探索助力LLM提升上限
强化学习虽提升大语言模型表现，但面临探索难题。字节跳动等团队提出FR3E框架，分两阶段重建探索机制，在多数学推理基准实验中显著优于强基线，为大模型强化学习提供新范式。