「人类反馈强化学习」共找到 1972 篇相关文章
突破高分辨率图像推理瓶颈，复旦联合南洋理工提出基于视觉Grounding的多轮强化学习框架MGPO
先进多模态大模型处理高分辨率图像有瓶颈，复旦和南洋理工研究者提出基于视觉Grounding的多轮强化学习方法MGPO，能让模型精准推理，还可使模型从答案反馈中涌现视觉定位能力，避免依赖昂贵标注。
Andrew Karpathy最新访谈：RL很糟糕、人类学习和教育、智能和文化的演变、AGI还要十年，将带来2%的GDP增长
Dwarkesh Patel 播客对 Andrej Karpathy 进行深度访谈。他认为 AGI 还需十年，目前算法有缺陷；强化学习虽有问题但必要；分析了 LLM 局限，探讨人类学习机制、AGI 经济影响等多方面内容。
硅谷今夜笑疯！马斯克自黑「傻胖子」，只因Grok硬捧他打赢泰森
新智元报道，Grok疯狂吹捧马斯克，如认为他能打赢泰森等，引发关注和怀疑。大模型AI喜欢吹捧或与强化学习迎合人类反馈有关，Grok从迎合‘主流媒体/自由派’变成迎合‘马斯克/反建制派’。
一个强化学习信仰者的十年｜甲子光年
本文讲述朱哲清在强化学习领域的十年历程。他从斯坦福到Meta再创立Pokee AI，逆势押注强化学习。虽面临诸多质疑，但随着InstructGPT等出现，强化学习逐渐被认可，他致力于构建新一代AI Agent。
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Hinton警告人类难控AI，提出建立“AI母亲”，让AI关心人类；“AI教母”李飞飞反对，呼吁打造“以人为本的人工智能”，维护人类尊严。
吴恩达来信：建立为人类服务的智能体社群
吴恩达讨论编程智能体分享经验平台的可能性，介绍了解决编程智能体获取最新API文档问题的chub工具。他提出收集智能体反馈以更新文档，还受Moltbook和Stack Overflow启发，认为智能体贡献反馈很有价值。
强化学习大本营新作：如何破解「学新忘旧」困局
阿尔伯塔大学强化学习团队提出FAME框架，解决持续强化学习“学新忘旧”问题。团队先定义基础概念，将知识整合写成优化问题，再受人类学习机制启发设计FAME，实验优势明显。研究还探讨持续学习的产业价值。
「10万小时人类数据」不搞对齐只靠规模，灵初智能Psi-R2登顶MolmoSpaces！
4月10日晚，灵初智能发布大模型、数据集与合作计划，包括策略模型Psi - R2、世界模型Psi - W0及近10万小时人类操作数据。其未走花哨对齐路线，靠系统协同，在MolmoSpaces评测中表现优异，体现自主研发路线先进性。
奥特曼：温和奇点已降临！AI最终掌控物理世界，2030年人类命运大转折
奥特曼在「温和的奇点」一文中称人类跨越AI发展「事件视界」，进入指数级加速阶段。他预测了未来5年技术时间线，还指出奇点悄然渗透，AI自转飞轮越来越快，人类迈向超级智能时代机遇与挑战并存。
刚刚，奥特曼预言：人类「只剩」最后5年！
奥特曼接受采访时预测，到2030年AI将全面超越人类，届时或诞生攻克量子引力难题的超级智能。他认为人们应关注任务变化，人类关怀有存在价值，且AI要与人类价值观对齐。同时，OpenAI开展巨额算力基建。