「内生奖励」共找到 699 篇相关文章
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
苹果与Anthropic合作，开发AI编程助手
彭博消息，苹果与Anthropic合作，为Xcode打造AI编程助手，集成ClaudeSonnet大模型，可自动完成代码编写等工作。现处内部测试，若顺利将向第三方开发者发布，有望改变苹果平台应用开发方式。
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
半年3轮10亿，他们都投了这家已经把机器人卖到500个家庭的公司
未来不远机器人半年获3轮10亿融资，字节跳动等入局。其全产业链闭环强大，展会表现优，已进入500多家庭。靠全栈自研、贴合需求等策略，在赛道脱颖而出，认为家用机器人应重真实落地。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
Cloudflare CEO 警告：未来两年，Agent 会让互联网每周爆出一个 Log4j
Cloudflare CEO Matthew Prince在播客中指出，互联网上Bot流量已超人类，未来五年或暴涨1000倍，旧商业模式将崩塌。他还谈到AI对安全、工作的影响，以及公司转型、互联网未来商业模式等问题。
卖鞋厂转型做 AI 股价暴涨 582%，华尔街最不缺这种荒诞闹剧
4月初还在发布新品的鞋履品牌Allbirds，一周后宣布将业务重心转向人工智能计算基础设施。消息公布后，其股价一天内涨幅超582%。这种转型并非首例，背后是资本市场对热门概念的追逐。
4B模型幻觉抑制能力超越GPT-5，CMU等提出行为校准强化学习新方法
大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。
10小时连崩4次、Claude疯狂宕机！刚把ChatGPT干到295%卸载量，就没顶住二次“爆红”？
昨日，Anthropic旗下Claude及Claude Code服务中断，10小时内连崩4次。此前特朗普下令停用Claude，但其用户量激增，还让ChatGPT卸载量暴涨295%，Anthropic还升级Claude记忆功能降低迁移门槛。