「人类意图对齐」共找到 1446 篇相关文章
首个用户生活「长程模拟器」来了！LifeSim 重新定义大模型个性化评测
现有个性化助手评测基准与真实用户-助手交互脱节，来自复旦大学等的研究人员提出 LifeSim 框架及 LifeSim-Eval 评测方法。实验显示主流 LLM 处理显性需求尚可，隐性意图识别等方面短板明显。
我们给OpenClaw加了一双眼睛，来观察我们这平凡的一天。
内容创意组小伙伴用Pocket 3作OpenClaw的“眼睛”，俯拍工位区，截取图片喂给多模态模型描述场景，下班时让OpenClaw分析趣事。还开发了“OpenClaw人类观察计划”，开发过程简单，降低了Agent体验门槛。
Bug变奖励：AI的小失误，揭开创造力真相！
最新研究发现，AI的「创造力」并非额外能力，而是架构副作用。扩散模型本应是复制机器，却画出奇怪图像。研究者基于规则构建数学系统，证明了这一观点，还推测人类灵感或许同理。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
0 融资、10 亿美元营收，数据标注领域真正的巨头，不认为合成数据是未来
Surge AI创始人Edwin Chen接受访谈，提出创业应解决问题而非融资，合成数据被高估，高质量数据才是壁垒。他还指出大语言模型竞技场误导训练方向，人类反馈永不过时，数据质量是AI发展首要瓶颈。
当人们误解了AI的本质，会发生什么？
文章指出尽管科技公司CEO宣称AI强大，但大语言模型无人类智慧。人们误解AI本质危害多，如将其当精神导师、用AI替代人际互动等，还揭露产业背后廉价劳工，强调要认清AI本质。
ICLR 2026 | 机器人不够聪明？VLMgineer让大模型自己「发明工具」，从设计到使用全自动
宾夕法尼亚大学研究者提出 VLMgineer，一个全自动工具设计与使用框架，利用视觉语言模型和进化搜索，让机器人自主设计并使用工具。该工作已被 ICLR 2026 接收。实验显示，它在工具设计上优于人类提示和现有 Benchmark 工具。
Nature重磅：智能的尽头是算力！谷歌大佬承认「预测下一个词即智能」
芯片速度触顶，摩尔定律失效，但AI却在疯狂跃迁。Nature文章指出，智能的增长不靠芯片加速，而是结构重组与协作。其核心是预测和并行协作，AI正以类似生命演化的方式发展，与人类相互依存。
真·QQ飞车！「电动版F1」上海开赛，Gemini在线解说
Formula E电动方程式赛事和Gemini深度合作，Gemini承担直播解说、Driver Agent分析数据及驾驶指导功能。FE规则类似游戏，其技术或下放到普通汽车，不过自动驾驶发展下，FE未来是否需要人类存疑。
前OpenAI灵魂人物Jason Wei最新演讲！三大思路揭示2025年AI终极走向
前OpenAI核心研究员Jason Wei在斯坦福演讲，提出AI发展三大思路。他认为智能会商品化、成本下降，自适应算力出现；所有能被验证的任务最终会被AI解决；AI智能呈锯齿状，不会瞬间超越人类。