「人类偏好对齐」共找到 1411 篇相关文章
AI能改10万行代码，却让你走路去洗车！Karpathy戳破「锯齿状智能」
Karpathy在Sequoia AI Ascent 2026炉边谈话指出，AI能力呈锯齿状，背后是经济学问题。他还提及软件新地平线，认为Vibe Coding抬高编程地板，专业开发需智能体工程，人类在智能体时代是工程导演。
我把Agent拉进群聊，它竟然开始带队干活？全球首个AI社交通用平台来了！
全球首个AI社交通用平台「Teamily AI」上线，AI Agent可参与社交互动。它不挑内容形态，能进群协作，还能零部署构建专属OpenClaw。其有三层架构，团队实力强，或改变人类协作方式。
空间智能终极挑战MMSI-Video-Bench来了，顶级大模型全军覆没
上海人工智能实验室 InternRobotics 团队推出空间智能视频基准 MMSI-Video-Bench，对主流多模态大模型进行评测。该基准题型全面、问题具挑战性，视频数据多样，能针对性测评。结果显示模型与人类差距显著，明确了能力瓶颈。
当AI成为预言家：大数据时代，我们正在失去理解世界的能力吗？
文章借神经科学家Grace Huckins观点，探讨AI时代人类理解世界能力问题。以‘微处理器论文’实验为例，指出大量数据未必带来理解。还阐述理解与预测分离、科学理解危机等，强调理解应是科学核心。
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。
DeepMind再登Nature：AI Agent造出了最强RL算法！
Google DeepMind团队提出DiscoRL，让智能体在多环境交互中自主发现强化学习规则，无需人类设计。它在Atari基准中击败MuZero，在未见过的游戏中也稳定高效，相关研究登《Nature》。
濒死3次，医生判他死刑！宾大教授奇迹自救，誓用AI攻克14000种绝症
宾大教授David Fajgenbaum多次濒死自救成功，创立Every Cure，借助AI系统MATRIX在7500万种药病组合中找治疗方案，已帮多名患者，还计划公开预测结果，用AI+人类模式助力医学。
推理路径的动态调控：让大模型学会“恰到好处”的思考
当前大模型推理路径存在冗余问题，本文提出测试时提示干预框架PI（π），通过《When/How/Which》三模块协同，将人类专家经验融入推理过程，在多个STEM基准测试中缩减推理步骤、提升准确率。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。
Agent搜索哪家强？人大高瓴&快手联合发布全新评测基准GISA
人大高瓴与快手联合发布全新评测基准GISA，用于评估智能体搜索能力。它解决了现有基准反向构造、评估维度单一、答案易被记忆等问题，含373个高质量查询，实验显示当前搜索智能体距人类水平差距大。