算法论文8
MIT研究：AGI失控风险超90%
新智元
AI 摘要
MIT教授研究表明人类控制超级智能概率低，通过模拟游戏等研究提出嵌套可扩展监督机制，分析不同场景下监督策略及胜率变化，指出AI失控风险大。
阅读原文 · 新智元
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态7
DeepSeek Harness：AGI自进化有“后悔药”？
8月13日，DeepSeek开放DeepSeek Harness v0.1开发者预览版，在Github获4.5万星。它提出“一切皆插件”概念，核心组件可插拔。还联合北大提出Cordis框架，解决组件插拔问题，但面临价格与组件膨胀挑战。
AI科技评论
新闻资讯7
OpenAI IPO前高管大逃亡
2026年OpenAI爆发罕见离职潮，IPO前似在经历大清洗。先是元老级高管Brad Lightcap官宣出走，后AI伦理负责人Chloé Bakalar也离职，此前还有多批产品、运营、安全等部门高管出局。
新智元
新闻资讯8
2026AI：从模型到体系，编程范式大转移
本文围绕2026年AI行业发展展开，指出竞争基本单位正从模型变为体系，AGI成组织目标，同时介绍了算力、数据等核心要素变化；还提及Agent与模型关系及编程新范式，最后宣传了2026CSDI峰会。
AIGC开放社区
推荐文章8
YC总裁：2026个人AGI已至，速来构建！
YC总裁Garry Tan在演讲中指出AGI已来，给出全新定义框架，强调其可成个人资产。他介绍了个人AGI存在形态、搭建步骤，还探讨其归属，鼓励大家主动构建。
特工宇宙