Ilya Sutskever：Scaling时代终结

机器之心2025-11-26

AI 摘要

Ilya Sutskever：Scaling 时代终结，当前模型泛化差，类似「刷题家」。人类情绪似价值函数，学习效率高。AI 发展进入研究时代，SSI 专注解决泛化问题，目标是让 AI 关爱感知生命。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

盖茨警告AI可致十亿人死亡

本文整理了近期全球各界针对AI风险的重磅表态，前科技乐观派比尔·盖茨发出AI可致十亿人死亡的警告，呼吁政府强制监管；教皇痛批AI“机器天堂”侵蚀人性，凸显AI安全已升级为全球性生存危机。

本文报道Anthropic最新研究，团队在Claude大模型中发现自发形成的J-space区域，匹配意识研究的全局工作空间理论，人类可直接读取、修改AI未输出的内部想法，揭示了现有AI对齐评测的重大漏洞，为AI意识研究提供了工程化路径。

本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。

本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。