「奖励设计」共找到 1506 篇相关文章
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
中途退学的艺术生，开发Web 3D项目，周下载量破400万
近日，Three.js 官方公布其周下载量突破 400 万。它是基于 WebGL 的 JavaScript 3D 图形库，承担诸多 Web 页面核心 3D 渲染工作。AI 降低其准入门槛，其创始人成长经历独特，开源风格克制。
乔纳森下一个iPhone神话，要黄了？OpenAI秘密AI硬件深陷三重困境
奥特曼与乔纳森联手打造终极个人AI助理，计划明年发布。但该项目面临基础设施和软件难题，包括算力与成本、人格设计及隐私问题，未来充满变数。
强化学习之父：大语言模型走错了路，不符合「苦涩教训」精神
2024 年图灵奖得主、强化学习创始人之一 Richard Sutton 在播客中批评 LLM 发展方向，认为其无真正智能，违背「苦涩教训」原则，缺乏持续学习能力，仅模仿人类，未理解世界。此观点引发 AI 社区激烈讨论。
DeepMind 颠覆机器人学习范式：让机器像人一样 “自由成长”
谷歌DeepMind受大模型微调中强化学习阶段启发，提出面向机器人学的两阶段后训练方法，含监督微调与自我提升。实验显示该方法让机器人自主习得新技能、广泛泛化，但研究也存在标注成本高等局限。
网络顶会获奖！华为提出端网协同RDMA传输架构，解决大规模AI集群网络可扩展性问题
全球网络通信顶会 ACM SIGCOMM 2025 落幕，华为与港科大合作的 DCP 研究成果获奖。该论文提出数控分离传输架构 DCP，解决大规模 AI 集群网络可扩展性难题，实验显示其性能优于现有 RDMA 方案。
突发！Cognition宣布收购Windsurf：看上的还是AI人才
Cognition宣布收购Windsurf，旨在构建软件工程未来。此次是全面整合，获其核心产品、IP、强劲业务、庞大用户基础及顶尖人才。Cognition还提供员工保障方案，战略协同有望变革软件开发模式。
Anthropic8张图，揭示Workflow & Agent的协作场景
文章借Anthropic的阐述，区分了Workflow与Agent概念。指出任务明确用Workflow，开放式问题用Agent，还介绍了构建blocks、workflows方法及Agent工作方式和实施原则。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
刚刚，北大校友Lilian Weng自曝公司首个产品？一篇论文未发，估值却已90亿
OpenAI前安全副总裁Lilian Weng疑似曝光90亿估值新公司Thinking Machines首个产品——手动调参仪表盘，训练中可手动调超参数。OpenAI也有AI硬件野心，设想让ChatGPT成全能硬件助手。