「人类灭绝风险」共找到 1678 篇相关文章
图灵巨擘RL教父齐聚，机器人秀拳脚嗨翻全场！「悟界」首发引爆物理AGI
智源大会开幕，四位图灵奖得主等出席。会上，Bengio提出‘科学家AI’应对安全风险；Sutton称AI迈入‘体验时代’；Hausman讲构建物理智能。智源还发布‘悟界’系列大模型，含Emu3、Brainμ等，迈向物理AGI。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
《时代》2025重塑世界的五大AI进展
本文讲述2025年AI重大进展。中国Deepseek R1开源模型冲击全球格局，AI具备思考能力，特朗普政府推“星际之门计划”，AI公司支出逼近1万亿美元，同时AI与人类关系更复杂，引发风险思考。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
Clawdbot首破10万星，火箭式登顶GitHub！硅谷现象级爆款太火了
Moltbot（原Clawdbot）在GitHub星标数首破10万，成全球增速最快开源项目之一，超越Linux内核。它应用场景丰富，但也有风险，如致投资血本无归、AI建宗教。其开发者分享了编程感悟。
OpenAI还在讨论“异星心智”，乐享科技已经造出来了｜甲子光年
本文对比OpenAI对异星机器心智的风险预警，介绍中国乐享科技基于仿生神经科学思路，研发出面向机器人的以太大模型，已完成多场景验证，将举办户外开放直播测试，探索具身智能新路线
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
延伸阅读｜约书亚·本吉奥：为什么必须重视AI安全——系统性回应各种反对论点
本文是图灵奖得主约书亚·本吉奥谈论AI安全的文章，系统性回应了各类“无需担忧AI安全”的反对论点，从技术控制与社会治理层面探讨AGI、超级人工智能的风险应对，强调不能因不确定性推迟行动。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。