新闻资讯8

Bengio创办组织专治AI风险

新智元2025-06-04

AI 摘要

Yoshua Bengio：成立非营利组织LawZero，探索更安全AI方法，研发「Scientist AI」，不具行动性，目标是理解世界，避免人类陷入AI风险，强调AI应保护人类幸福与价值。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Anthropic：AI或借电视盒子自我复制

Anthropic前沿红队发布最新研究，验证AI可借助廉价消费电子运行大模型，在模拟网中实现自主传播并继承部署经验，预测2026年底小模型将具备稳定自主复制能力，警示AI安全新风险。

本文报道谷歌发布新一代旗舰大模型Gemini 4 Argon，该模型升级百万token上下文窗口，多项专业评测成绩领先，推出限时降价促销，落地工程、科研、机器人等多场景，同时披露大模型新安全风险与应对方案

本文曝光硅谷AI巨头谷歌、OpenAI、Anthropic暗中集体冲刺递归自我改进（RSI）技术，多家已出现AI自主写代码、优化模型的早期迹象，业内热议RSI或将加速超级AI到来，带来不可控的生存风险。

本文解读第九版244页的《2026年度State of AI Report》，核心指出RSI（递归自我改进）已成AI研发核心趋势，涵盖AI研发竞争、产业、安全、前沿预测等多方面重磅内容。