「人类偏好对齐」共找到 1411 篇相关文章
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
学生3年投稿6次被拒，于是吴恩达亲手搓了个评审Agent
机器学习大佬吴恩达为投稿屡被拒的学生，做了免费AI论文评审智能体。它在ICLR 2025审稿数据训练，与人类审稿相关系数达0.42，能按会议风格评审，还提修改建议，可体验。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。
马斯克宣布：Grok学会看片了！无字幕看懂陶哲轩菲奖级难题
马斯克宣布Grok可分析任何视频。它能对伪造视频鉴假溯源，但也有处理画面靠字幕、有幻觉问题和效果不稳定的缺陷。实测中它能理解无字幕视频，还整理访谈内容。这功能虽便利，但引发人类能力退化担忧。
今天我替煤炭给AI正个名。。。
一份标价8200元的煤炭研究报告称煤炭是可再生资源，可打怪获取，此事引发热议。很多人认为是AI写的，但报告是2022年出版，那时ChatGPT都未发布，实际是人类所为。AI暴露了行业内假装专业的垃圾内容。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
数据分析师如何快速建立在 AI 时代最值钱的能力：一份可落地的行动路线图
文章借Snowflake分享，探讨数据从业者在AI时代的核心能力。介绍AI从工具到执行者的进化，指出数据叙事成稀缺技能，还给出普通职场人90天AI逆袭路线图，强调人类在决策判断上的不可替代性。
上帝视角！DeepMind提前5天锁定Melissa，强度预报不再靠天
飓风Melissa来临前，DeepMind算法提前5天预言其强度变化。该模型用两类数据训练，能生成多种未来场景，在路径和强度预测上优于传统模型，已被NHC投入实战，但AI不能理解灾难，人类仍需做决策。
2025 AI 趋势报告：Agents 正在跨越鸿沟
《2025 AI 趋势报告》指出，AI 智能体跨过鸿沟被广泛采用，能力比肩人类，成本优势显著，影响招聘。能源成制约，生成式 AI 普及快，收购成主要退出路径，虽估值高但基本面尚好，还分析了下一波创业切入点。
亿级短视频数据突破具身智能Scaling Law！Being-H0提出VLA训练新范式
真机数据匮乏使具身智能VLA模型发展受限，现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案，利用人类视频手部数据构建数据集，训练出VLA模型Being - H0，经实验验证效果良好。