「对齐风险」共找到 728 篇相关文章
OpenAI核心研究员坦白：上万Agent自发成军，奇点已经到来，三个月后无法预测
本文整理OpenAI核心研究员、o1推理模型开创者Noam Brown的访谈，披露OpenAI上万自发协作多智能体的技术突破，探讨AI发展远超人类预判，奇点临近，解决对齐问题的时间窗口正快速闭合
黄仁勋提前锁定20年OpenAI芯片收入！第一轮150万GPU卖2000亿美元
英伟达推出‘LPS’概念，联合投资机构出5000亿美元建数据中心，为客户担保。首个项目为在美为OpenAI建150万GPU数据中心，20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
图灵得主Yoshua Bengio，开始警惕AI有意识了
图灵得主Yoshua Bengio和学生在Science发文探讨AI意识问题。文章未明确AI是否有意识，而是讨论科学界和公众信念的演变及把AI当有意识生命体的风险，还提及计算功能主义等相关理论。
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。
AI时代UI已死？Karpathy称产品要给AI开后门，还分享了自己的AI编程心法
Andrej Karpathy指出，只有复杂UI、无脚本支持、基于不透明二进制格式的软件产品，在AI时代会被淘汰。他给出风险评估清单，还分享AI编程心法，探讨编程中‘验证鸿沟’问题。
鹅厂带大家“养虾”，昨天刚装、今天就裸奔！田渊栋：OpenClaw就像拿着所有秘密的笨小孩出门办事
OpenClaw 掀起安装热潮，SetupClaw 代装收费高，小米推手机版。腾讯云线下帮装机，却出现安全暴露和扣费问题，且 OpenClaw 安全事故频发，官方收紧权限但仍有风险，中美态度不同。
OpenAI试图绑架美国政府，奥特曼还有救命底牌？
OpenAI首席财务官Sarah Friar提出美国政府应为AI芯片投资提供贷款担保，引发争议。奥特曼澄清立场，称不希望政府担保。同时，OpenAI与七巨头利益捆绑，AI投资热潮潜藏泡沫风险。