「奖励信号」共找到 374 篇相关文章
AI一眼认出95万物种，还能分辨雄雌老幼，2亿生物图像炼成“生命视觉”大模型
俄亥俄州立大学团队用2亿生物图像训练BioCLIP 2模型，取得最优物种识别性能。它在无相应监督信号的非物种任务中，准确率远超DINOv2，还涌现出物种间生态对齐、物种内差异分离等生物学理解。
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。
英伟达首台DGX GB300，老黄亲自登门送给他
老黄将首台DGX Station（GB300）送给个人开发者卡帕西，还附赠“小作文”。卡帕西打算用它搭建个人AI集群做实验。DGX Station把数据中心级AI算力搬到桌面，英伟达还为此贡献开源堆栈NemoClaw。
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
开源8300小时标注数据，新一代实时通用游戏AI Pixel2Play发布
随着AI在代码和图片生成领域成熟，研究人员开始关注其在游戏领域的表现。此前的专用模型缺乏跨游戏泛化能力，通用模型在游戏环境中表现不佳。为此，Player2研究员提出Pixel2Play模型，还开源了代码和数据集。
OpenAI新幻觉论文惹争议！GPT-5拉胯是测试基准有问题？？
OpenAI新论文《语言模型为何会产生幻觉？》提出，模型有幻觉是因标准训练和评估流程倾向奖励“猜对”。GPT - 5不爱猜测，在榜单表现不佳，网友质疑论文是为GPT - 5挽尊，论文引发网友多方向讨论。
AI里最大的Bug，却也是人类文明最伟大的起点。
OpenAI论文指出AI产生幻觉是因其训练方式奖励瞎蒙行为。以考试为例，AI在信息不足时猜测是最优策略。还从统计学解释根源，指出解决幻觉需改变评估指标，也引发对人类想象力起源的思考。
隐形束缚：RLVR为何无法突破LLM的推理边界？
大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。
黄仁勋中国现场直击！假如有一个「数字黄仁勋」，我希望我们一起变聪明
英伟达CEO黄仁勋再访北京，接受新智元等媒体采访。他盛赞华为优秀，评价DeepSeek等模型出色，还谈及AGI、数字分身、出口管制等话题。此外，H20芯片解禁重售释放政策信号，有望实现中美科技企业合作共赢。
RLHF已死，RLVR引爆AGI革命！Claude 4核心成员万字对谈
Claude 4核心成员对谈指出，强化学习在语言模型上奏效，可验证奖励的强化学习（RLVR）比RLHF更优，模型有望从「专才」向「通才」过渡，未来AI智能体将完成白领工作，人们应做好准备。