搜索：人类意图对齐

「人类意图对齐」共找到 1446 篇相关文章

Grok 4刷新ARC-AGI-2纪录：15.9%碾压所有公开模型，我们离AGI还有多远？

xAI的Grok 4在ARC-AGI-2测试中获15.9%，成全球最强公开AI模型。ARC Prize主席还原测试过程，虽成绩亮眼，但网友有质疑，且离人类表现差距大。Grok 4在多基准测试领先，定价便宜。

在WRC世界机器人大会上，云蝶科技发布RoboForge系统级具身大脑和WING任务型本体。其科研团队两项成果POLIA与Strat-Reasoner发表于ICML 2026，从视觉证据和他者意图两方面，为理解具身大脑技术提供切口。

UC伯克利大学副教授Sergey Levine提出，为何语言模型从预测下一词中学到很多，视频模型从预测下一帧却学得少。他指出LLM可“抄近路”模仿人类推理，像在“柏拉图洞穴”中，还探讨了AI走出困境的方法。

图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。

美国伊利诺伊州成继内华达州后，第二个禁止用人工智能进行心理治疗的州。该法案限制聊天机器人独立治疗及其他AI使用方式，旨在保护患者和人类治疗师，但也引发对全面禁止利弊的讨论。

Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。

机器学习大佬吴恩达为投稿屡被拒的学生，做了免费AI论文评审智能体。它在ICLR 2025审稿数据训练，与人类审稿相关系数达0.42，能按会议风格评审，还提修改建议，可体验。

亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。

马斯克宣布Grok可分析任何视频。它能对伪造视频鉴假溯源，但也有处理画面靠字幕、有幻觉问题和效果不稳定的缺陷。实测中它能理解无字幕视频，还整理访谈内容。这功能虽便利，但引发人类能力退化担忧。

一份标价8200元的煤炭研究报告称煤炭是可再生资源，可打怪获取，此事引发热议。很多人认为是AI写的，但报告是2022年出版，那时ChatGPT都未发布，实际是人类所为。AI暴露了行业内假装专业的垃圾内容。