「攻击检测」共找到 344 篇相关文章
泛化性暴涨47%！首个意图检测奖励范式，AI工具爆炸时代意图识别新解法
随着大模型和工具增长，AI 助手意图识别遇新挑战。腾讯 PCG 团队用强化学习等方法，提升模型泛化能力，还从多方面剖析优势，最后提出未来研究方向。
3200+ Cursor 用户被恶意“劫持”！贪图“便宜 API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意 npm 软件包，攻击 Cursor 编辑器 macOS 版用户，超 3200 次下载。这些包伪装提供‘最便宜 API’窃取凭据、替换代码，还凸显供应链威胁。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
ICML暴力清场，497篇论文一夜作废！审稿人偷用AI惨遭全拒
ICML 2026爆出大消息，497篇论文因审稿人动用AI未标注被“桌拒”，占总投稿量2%。ICML祭出“连坐”惩罚，引发争议，有人质疑检测不靠谱，也有人支持维护学术规则。
谷歌发布 Angular 21：Signal Forms、Zoneless 迁移和 AI 优先工具
谷歌发布 Angular 21 版本，引入 Signal Forms 提高表单响应性，推进 zoneless 变更检测，还提供 AI 驱动开发工具，有打包配置、组件库等更新，虽引不同看法，但提供清晰迁移路径。
「AI生成的内容全部加水印」OpenAI、Anthropic、Google都签了
OpenAI、Anthropic、Google等公司签署欧盟《AI生成内容透明度行为准则》，承诺推进AI生成内容标记与检测。Claude已公布落实方案，文本水印早有先例，但「水印」可信度遭质疑。