「人类偏好对齐」共找到 1411 篇相关文章
原力灵机发布Realtime-VLA V2：从遥操作到真实部署，VLA提速的系统解法
原力灵机发布《Realtime - VLA V2》技术报告，在VLA控制下让机器人快速运动。实现数倍于遥操作采集训练数据的速度执行VLA，解决了遥操作数据采集、时序延迟等问题，还通过“油门式采集”提升速度，但离人类性能仍有差距。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。
11 年前的那张图，又火了
一张2015年关于AI的智能曲线图近日在X上刷屏，马斯克也进行了转发。该图作者Tim Urban将AI分为ANI、AGI、ASI三个层级，指出人类习惯线性思考，但AI进步是指数级的。如今AI发展加速，其能力边界不断扩张。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
MLLM集体翻车，缺乏婴儿级常识！业界首个核心认知基准发布，LeCun转赞
当前大模型在12项核心认知上普遍落后人类10 - 30%，越大的模型越易靠「背答案」糊弄。团队公开首个系统评测框架和题库，用Concept Hacking方法识破模型真假理解，指出模型存在核心知识缺失等问题。
Grok 4刷新ARC-AGI-2纪录：15.9%碾压所有公开模型，我们离AGI还有多远？
xAI的Grok 4在ARC-AGI-2测试中获15.9%，成全球最强公开AI模型。ARC Prize主席还原测试过程，虽成绩亮眼，但网友有质疑，且离人类表现差距大。Grok 4在多基准测试领先，定价便宜。
不是视频模型“学习”慢，而是LLM走捷径｜18万引大牛Sergey Levine
UC伯克利大学副教授Sergey Levine提出，为何语言模型从预测下一词中学到很多，视频模型从预测下一帧却学得少。他指出LLM可“抄近路”模仿人类推理，像在“柏拉图洞穴”中，还探讨了AI走出困境的方法。
AI遭遇灵魂拷问！这道题所有模型集体翻车，网友：我也不会啊
图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。
The Batch: 883 | 美国两个州禁止人工智能驱动的心理健康治疗
美国伊利诺伊州成继内华达州后，第二个禁止用人工智能进行心理治疗的州。该法案限制聊天机器人独立治疗及其他AI使用方式，旨在保护患者和人类治疗师，但也引发对全面禁止利弊的讨论。
浪费20亿Token之后，我做了一个帮自己定义目标的Skill。
作者在浪费20亿Token后，开源了帮定义目标的Leader.skill。它能将模糊需求转为清晰目标，适用于多模型组合。还阐述人类与Agent交互范式转变及目标定义要点，给出目标七问方法论。