「人类偏好对齐」共找到 1411 篇相关文章
倒反天罡：ChatGPT教人说话？36万视频+77万播客已证实！
最新研究警告，ChatGPT正改变英语表达方式，植入自身偏好。研究人员分析超36万视频和77万播客，发现GPT词汇使用率显著攀升。但研究有局限，且AI沟通还引发信任危机等问题。
马斯克生日惊喜！全球首例Model Y无人「自驾交付」，30分钟见证历史
昨天，一辆特斯拉Model Y从得州超级工厂无人自驾，最高时速115公里，30分钟到车主家门口，完成人类首次工厂到用户的闭环交付。马斯克激动祝贺，此场景复杂度超竞争对手。
欧洲科学与艺术院长 Klaus Mainzer：通用人工智能的终极通关秘籍，藏在思想史里 GAIR Live | 018
雷峰网专访欧洲科学与艺术院院长 Klaus Mainzer，他指出通用人工智能瓶颈在思想史，AGI 障碍是“具身性”哲学鸿沟。还提及量子计算等新兴技术前景，强调教育要整合，人类要担起 AI 时代责任。
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
强化学习之父：大语言模型走错了路，不符合「苦涩教训」精神
2024 年图灵奖得主、强化学习创始人之一 Richard Sutton 在播客中批评 LLM 发展方向，认为其无真正智能，违背「苦涩教训」原则，缺乏持续学习能力，仅模仿人类，未理解世界。此观点引发 AI 社区激烈讨论。
宇树机器人“撞人逃逸”火到国外，王兴兴回应：下次不遥控了
宇树机器人“撞人逃逸”片段在国外疯传，引发对机器人安全性的担忧。分析发现，“元凶”可能是人类控制员交接遥控器时未及时避让。宇树创始人王兴兴表示下次让机器人自主奔跑，还透露未来有更多突破。
Karpathy：强化学习「有点问题」，突破还需新算法
前特斯拉AI总监、OpenAI创始团队成员Karpathy发文称，强化学习虽能带来更多收益，但机制「可疑」，不像人类解决智能任务的方式。他提出新算法框架，还指出当前存在诸多待解决的问题。
让机器人看视频学操作技能，清华等全新发布的CLAP框架做到了
近日，清华联合星尘智能、港大、MIT提出 CLAP 框架，能将视频运动空间与机器人动作空间对齐，解决‘数据饥荒’‘视觉纠缠’等问题，可让机器人从视频学技能，还缓解知识迁移难题，推动机器人产业化。
机器人“梅西”的养成：干活之前，得先学踢足球
文章讲述人类驯化机器人踢足球的历程，从早期探索到如今技术发展，涉及比赛设置演变、技术难点攻克、团队配合提升等，还探讨了机器人踢球能力迁移及赛事商业前景，展望2050年机器人足球队目标。
强化学习也遇到了“天花板”？Andrej Karpathy构建了一个新算法
大神Karpathy肯定强化学习（RL）价值，指出其比监督微调更具扩展性，但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法，还面临泛化等挑战。