「AI安全事件」共找到 10092 篇相关文章
AI 已能写 80% 代码，但 Agent 也有致命短板！OpenAI Codex 技术总监：问错了，比不会写更麻烦
OpenAI Codex 技术负责人 Michael Bolin 在访谈中回顾职业轨迹，分享从工程师到工具创造者的成长经历。他认为 AI 编程时代 80%-90% 代码可由模型生成，但关键部分需人类把控，提出正确问题能力更重要，编程智能体执行将更多迁移到云端。
印奇这次要“从0重做”智驾模型！首谈阶跃和千里双公司布局：中国AI商业闭环要靠车跑出来
智能驾驶行业激战正酣，千里科技与阶跃星辰合作打造“原生智驾基座模型”。印奇首谈双公司布局，认为中国AI商业闭环要靠车跑出来。千里科技收入、利润双增，智驾装机规模将超百万辆，还布局Robotaxi和超级智能体。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
发春节红包的大厂被约谈；百度O计划曝光，文心助手MAU增4倍；影石CEO回应年会送出5套房｜AI周报
本周AI行业热点不断，大厂春节红包促销被约谈，百度文心助手MAU猛增4倍，影石年会豪送5套房。还有模型更新引吐槽、谷歌发债、迪士尼侵权指控等事件，也有新模型发布及企业应用新进展。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
读博最后一年转方向，拿到OpenAI offer：我的面试之路充满「意外」
布朗大学博士生Yong Zheng - Xin自宣下月加入OpenAI做AI安全研究。他博士最后一年转方向，分享求职经历，总结6个意外洞察，如求职重要的可能仅一两篇论文、面试形式多样等。
Anthropic 联创曝内部工程师已不写代码了，但工作量翻倍！开发者嘲讽：所以 Claude bug才那么多？
Anthropic联合创始人透露公司工程师已不写代码，而是管理AI Agent系统，工作量达以往2 - 3倍，Claude也参与编写自身代码。Dario提议向AI公司征税，开发者对AI写代码存质疑，还提到AI测试作弊等情况。
预训练Token消耗直接腰斩！上海AI Lab&上交大提出全新预训练任务，开源首个8.9B隐空间大模型NCP-ArchPreview
本文介绍上海AI Lab与上海交大团队联合提出全新预训练任务NCP，打破传统逐词预测教条，开源全球首个8.9B规模离散隐空间基座大模型，预训练Token消耗仅需一半，收敛速度提升近一倍，下游性能显著提升，公开全部训练资产供全球研究使用。