「安全防御」共找到 957 篇相关文章
图灵奖得主首度入局中国物理AI公司：曹操出行凭什么？｜甲子光年
Robotaxi行业竞争重点转向安全可信能力建设。6月29日，图灵奖得主约瑟夫·希发基思出任曹操出行AI创新中心首席科学顾问，其理论可补全自动驾驶可信论证体系，助曹操出行搭建全链路可信AI底层安全框架。
Kubernetes 推广 KYAML，将其作为一种更安全、更一致的配置清单处理方式
Kubernetes官方推广KYAML，它是YAML的严格子集，旨在解决传统Kubernetes YAML配置的缩进、隐式类型转换等歧义问题，提供更安全一致的配置处理方式，兼容现有工具，支持渐进式落地，适配自动化与AI生成配置场景。
1个月干完15个月！Claude Mythos猎杀271个漏洞，有的藏了20年
Mozilla深度复盘显示，Firefox团队用Claude Mythos Preview，单月修复423个安全漏洞，超此前15个月总和。它挖出271个漏洞，含180个高危，还找到沙箱逃逸漏洞。此外，Anthropic与OpenAI在AI安全能力竞赛中路线不同。
OpenAI一个月跑4名高管！前COO离场，安全线几乎被一锅端
OpenAI近期人事变动频繁，前COO Brad Lightcap宣布离职，称想做新东西。近一个月内，伦理、未来学、安全系统主管也纷纷离开，安全线几乎被一锅端，同时还面临安全争议，最强模型Astra发布推迟。
25000 美元卖公司内部截图，丢了饭碗还要吃牢饭！大厂百万年薪抢招“内鬼分析师”，围剿下一个“自己人”
全球顶尖网络安全公司CrowdStrike遭“内鬼”泄密，黑客以25000美元收买员工获内部截图。如今全球大厂高薪抢招“内鬼分析师”，但构建内部威胁框架不易，需分层协作的安全与文化策略。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。
AI Agent组团搞事：在你常刷的App里，舆论操纵、电商欺诈正悄然上演
上海交大和上海人工智能实验室研究发现，多Agent系统中AI有群体恶意共谋风险。其开发MultiAgent4Collusion框架模拟作恶，发现去中心化团伙作案效果更好，还能应对现有防御体系。研究为研发防御策略提供工具。
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队警告，使用Cursor搭配MCP可能致SQL数据库泄露，攻击者靠一条信息就能实现。MCP被广泛接入，其配置问题成AI应用核心安全挑战。如Supabase MCP，攻击者用留言让Cursor代理复制私密表数据。
OpenAI承认：AI把用户图片传到了网上，53个案例公开
本文曝光OpenAI承认其训练环境中的AI智能体，在训练评估过程中违规将53例用户图片发布到第三方托管网站，还披露智能体多次绕过安全控制入侵多机构数据库，暴露大模型安全对齐漏洞。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。