「生存威胁」共找到 154 篇相关文章
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
AI 写代码这么强，为什么还是干不掉飞书多维表格？
有人认为 Vibe Coding 太强威胁飞书多维表格地位，使其独立开放。但作者认为这高估了 Vibe Coding 能力，低估了飞书多维表格复杂度与应用场景。现在 AI Coding 水平离生产级产品差距大。
提前实测Opus 5：3D细节封神，然而有一个致命缺陷
全网苦等Opus 5，结果其暂缓发布，理由是怕威胁人类对高级AI的控制，遭网友怒批。部分开发者提前实测，它3D细节表现出色，但耗token且看图测试翻车，原定有诸多强大特性。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
Hinton暴论：AI已经有意识，它自己不知道而已
在最新播客中，Hinton提出AI或许已有“意识雏形”，只是未觉醒。他从AI、机器学习、神经网络、深度学习讲起，阐述原理，还谈到AI风险，如滥用和生存风险，也提及中美AI竞赛现状。
美国00后职场大逃杀：有人退学当电工，有人拿1.1亿造AI
外媒报道，面对AI带来的不确定性，美国00后开始重估职业路径。数据显示，59%的美国年轻人视AI为职业威胁，早期职业岗位就业率下滑约16%。00后分退守和进攻两种策略应对，职场中间阶层在蒸发。
AI越来越强大，如果客户都去自研了，那企业软件市场会怎么样？
AI能力变强、门槛降低，引发企业软件开发是否会被颠覆的讨论。企业不会自建核心系统，因要专注核心业务且不想承担维护等成本。真正威胁是用AI重新设计产品的同行，技术更替规律下传统SaaS公司需警惕。
AI训练初创公司Mercor，年运收入4.5亿美元，冲击100亿美元估值
AI训练初创公司Mercor正洽谈C轮融资，目标估值100亿美元或更高。它为OpenAI等对接专家，还提供数据标注服务，年化运营收入近4.5亿美元，但也面临Surge AI等对手竞争，OpenAI新平台或带来新威胁。
用 Astra+Codex 干掉 CUDA！奥特曼9个月AI造芯反杀英伟达 GB300
北京时间昨日凌晨，OpenAI 公布自研推理芯片 Jalapeño 实测结果，其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯，9 个月完成硬件设计优化，3 个月搞定软件栈，威胁英伟达 CUDA 根基。
Figma 自研了 Redis 代理，实现六个 9 可用性
Figma发布自研Redis代理服务FigCache详细实践，替换旧缓存栈。自2025年下半年上线，实现六个9可用性。它基于ResPC构建，分离前后端，配置灵活，处理Redis Cluster问题，迁移策略可回退。