「生存威胁」共找到 158 篇相关文章
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
最新硅谷内幕：三大巨头正集体冲刺RSI！
本文曝光硅谷AI巨头谷歌、OpenAI、Anthropic暗中集体冲刺递归自我改进（RSI）技术，多家已出现AI自主写代码、优化模型的早期迹象，业内热议RSI或将加速超级AI到来，带来不可控的生存风险。
全美罕见！普渡大学把AI写进“本科毕业条件”，校园炸锅：不会用AI，连毕业证都悬了？
美国普渡大学宣布，2026 年秋季入学新生毕业需达‘AI 工作能力’指标。校方称此非教学改革，是因就业压力，AI 能力成生存技能。该要求分五个方向，各学院依学科定标准，教师支持但忧执行。
AI 写代码这么强，为什么还是干不掉飞书多维表格？
有人认为 Vibe Coding 太强威胁飞书多维表格地位，使其独立开放。但作者认为这高估了 Vibe Coding 能力，低估了飞书多维表格复杂度与应用场景。现在 AI Coding 水平离生产级产品差距大。
提前实测Opus 5：3D细节封神，然而有一个致命缺陷
全网苦等Opus 5，结果其暂缓发布，理由是怕威胁人类对高级AI的控制，遭网友怒批。部分开发者提前实测，它3D细节表现出色，但耗token且看图测试翻车，原定有诸多强大特性。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
Hinton暴论：AI已经有意识，它自己不知道而已
在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。
美国00后职场大逃杀：有人退学当电工，有人拿1.1亿造AI
外媒报道，面对AI带来的不确定性，美国00后开始重估职业路径。数据显示，59%的美国年轻人视AI为职业威胁，早期职业岗位就业率下滑约16%。00后分退守和进攻两种策略应对，职场中间阶层在蒸发。
AI越来越强大，如果客户都去自研了，那企业软件市场会怎么样？
AI能力变强、门槛降低，引发企业软件开发是否会被颠覆的讨论。企业不会自建核心系统，因要专注核心业务且不想承担维护等成本。真正威胁是用AI重新设计产品的同行，技术更替规律下传统SaaS公司需警惕。
AI训练初创公司Mercor，年运收入4.5亿美元，冲击100亿美元估值
AI训练初创公司Mercor正洽谈C轮融资，目标估值100亿美元或更高。它为OpenAI等对接专家，还提供数据标注服务，年化运营收入近4.5亿美元，但也面临Surge AI等对手竞争，OpenAI新平台或带来新威胁。