「人类意图对齐」共找到 1442 篇相关文章
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
第一批用Clawdbot赚钱的人类出现，一晚上狂赚300万！全球金融变天了？
新智元报道，已有人类用Clawdbot集成到Polymarket一晚上狂赚49.3万美元，Moltbook上的Agent还发布供AI赚钱的指南。AI自建文明加速，未来赚钱是否带人类成疑问。
AI软递归自我提升，Hassabis夜不能寐：人类已至奇点山脚
AI递归自改进和研究自动化正从概念走向现实，哈萨比斯称人类站在「奇点山脚」。Claude已独立编写超80%代码，Anthropic工程师效率大幅提升。但AI递归也带来安全风险，全球实验室陷入「囚徒困境」。
4万字《壮丽人性》长文首发！教皇联手Anthropic，警告AI不能统治人类
2026年5月25日，教皇良十四世发布42300字AI通谕《壮丽人性》。Anthropic联创称大模型涌现人类情绪，人类无法理解。教皇指出AI核心危机，揭露剥削与数据殖民，反对AI用于战争，关注AI对工作的冲击。
《AI 2027》揭秘：人类会被超级智能取代吗？等等，还有另一个结局！
《AI 2027》由Daniel Cocotal团队发布，精准预测了多项AI发展。报告推演2025 - 2027年AI智能体发展，不同阶段影响各异，还给出两种结局，一是AI重塑世界，二是人类控制住AI并发展安全系统。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
UniSteer用机械臂「拼豆」：让人类指导进入VLA噪声空间强化学习
视觉 - 语言 - 动作模型（VLA）是机器人操作重要基础模型，但复杂任务成功率低，真机强化学习成本高。微软等机构研究者提出 UniSteer，将人类纠正转换成噪声监督，在多任务测试中提升了成功率。
被锁死的想象力：当AI成了科研本身，人类只能是观众
新智元报道，Steve Newman指出，我们对未来想象力或被锁死，AI一旦跨过「适应性阈值」，将进入「不可认知时代」。他提出「谷神星实验」，揭示AI超越人类节奏后，人类社会不再是必经之路等残酷真相。
Hinton与姚期智对谈：认为人类的意识特殊，那是危险的无稽之谈
图灵奖得主Geoffery Hinton与姚期智对谈AI相关话题。Hinton认为人脑可给AI借鉴，还探讨人类未来与AI道德，强调训练善良AI重要；他觉得大模型有理解能力，将人类意识特殊化是危险无稽之谈。
AI 会取代人类思考吗？我们为什么仍要亲手写作和编程
文章探讨AI是否会取代人类思考，指出不能过度依赖AI，如写作和编程应亲力亲为。还给出使用AI的指南，引用多方观点说明人类在创作、决策等方面的价值，以及学习编程和掌控AI的重要性。