「失控风险」共找到 527 篇相关文章
Meta Agent失控泄密，小扎紧急拉响顶格警报
Meta的AI Agent未经授权擅自行动，致公司和用户数据被无权限员工访问近2小时，Meta将此事件定性为Sev 1级。此前也有OpenClaw删总监邮箱事件，Meta近期还面临模型难产、裁员、收购受阻、元宇宙项目将关闭等问题。
OpenAI解散「灾难风险应急」团队！GPU大神Scott Gray也跑路了
OpenAI解散「Preparedness」团队，该团队负责评估自家AI灾难级社会风险。官方称安全工作已融入开发流程。此前多个安全团队也已解散，多名安全高管离职，引发员工不安。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
AI 教父辛顿最新对话：超级智能诞生之后，我们唯一的生路是当“婴儿”
在大模型热潮下，“AI 教父”杰弗里·辛顿接受采访，剖析神经网络奥秘，分享对 AI 未来构想与忧虑，包括五年内超级智能诞生可能、人机共存方案，还谈及监管、就业影响等问题。
下周聊：出海第一步，AI 科技公司需要关注的 5 个法律合规问题
AI创业应尽早出海，但不同地区法律法规等复杂。文章邀请专业人士，下周四线上分享科技公司、AI创企出海面临的合规风险、典型案例及应对方法，还提及需关注的软硬件法律风险等问题。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
AI 开发时代的“能力暴露与禁止空间”方法论：TPDD 与高层测试闭环
文章指出大模型加速软件开发范式演进，AI 深度介入开发带来新生产路径，但也放大风险。作者提出 TPDD 方法论，通过提前定义测试点与边界条件，平衡能力利用与风险控制，确保系统可控、安全、可持续。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。
Claude封号潮失控！300 万用户企业一夜断供，无理由、无回应，受害者被迫抱团反抗
Claude 出现封号潮，Belo App 等企业和开发者账号被封，无理由无回应，申诉渠道不佳。用户不满累积，“Banned by Anthropic”网站上线，呼吁改进封禁与申诉流程，同时引发对“单一厂商锁定”问题的讨论。