算法论文8

徐兴成：强化学习藏‘策略悬崖’危机

机器之心2025-08-13

AI 摘要

上海人工智能实验室徐兴成博士：强化学习用于大模型有隐患，‘策略悬崖’会致模型行为剧变。其由最优策略多解性和奖励函数不完备性导致，研究为AI安全和对齐提供理论启发。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

腾讯开源框架，一句话造3D世界

香港科技大学（广州）和腾讯团队开源VibeWorlding框架，实现说句话造3D世界。它由VWE - Bench和VibeWorlding - Gym组成，开源模型经强化学习训练后成绩逆袭，证明强化学习解锁3D推理潜力巨大。

OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。

IPO前夕，Anthropic最新年化营收达650亿美元，8个月翻超7倍，反超OpenAI。双方在资本市场竞争激烈，A社在起跑时间、财务、商业模式上占优，但OpenAI用户规模和产品生态占优，目前A社牌面更好。

OpenAI发布内部版模型Astra的十项成果，引发数学界震动。菲尔兹奖得主Timothy Gowers分析其成果，指出AI优势在‘输得起’，还探讨找例方法、模型短板，给出训练建议与衡量跨越门槛的标准。