搜索：人工智能安全

「人工智能安全」共找到 1356 篇相关文章

硅谷“甄嬛传”第二季！Ilya 与 Amodei 把 Sam Altman 再次推上审判席

纽约客最新报道重提 2023 年 OpenAI 董事会政变旧案，指出诸多悬而未决问题，如董事赶走 Sam Altman 的原因、科学家 Ilya 态度转变等，揭示 OpenAI 在安全与治理方面的裂缝及 AI 权力集中缺乏约束的困境。

作者认为凯文·凯利新书《未来10000天的可能》太水，有价值内容仅占10%。但赞同书中观点，如‘人工智能’应叫‘异人智能’，按人类样子打造AI会限制它，这也是一些大佬反对的‘拟人化陷阱’。

首届宾夕法尼亚州能源与创新峰会召开，特朗普宣布超900亿美元投资承诺，要把该州打造成美国AI核心。谷歌、黑石等多家机构参与投资，涉及数据中心、能源基建等项目，还强调了“能源安全人工智能”理念。

OpenAI Codex在Reddit AMA活动中，核心负责人围绕先推云端代理、GPT - 5与Operator整合等问题给出路线图。如Codex - 1预览情况、CLI设计、使用场景、安全模型、接入计费及API生态等方面都有说明。

OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。

Meta超级人工智能实验室（MSL）负责人Alexandr Wang发声，称其任务是推动超级智能技术突破并做成产品推向数十亿用户，要把个人Agent全球化部署，还谈到与研究和产品平衡、Meta的AI思路等问题。

科技从业者Paul的爱犬Rosie患罕见癌症，传统治疗难见效。他借助ChatGPT、AlphaFold等，结合基因测序数据，联合科研机构为狗狗定制mRNA癌症疫苗，使肿瘤缩小50%，但自主研制引生物安全担忧。

文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。

中国科研正从跟跑变领跑，国际合作领衔比例上升，与美欧渐趋均衡。人工智能等关键赛道加速发展，顶刊与高被引成果、顶尖人才增多。借‘一带一路’放大影响力，重绘全球科技版图。

云知声发布《2025中期业绩报告》，亮点颇多。总收入4.05亿元，同比增20.2%，山海大模型收入近1亿，增幅457%。业务布局呼应国务院‘人工智能+’行动，技术优势明显，展现了AI产业化落地的成功模式。