「对抗攻击」共找到 214 篇相关文章
GAIR Paper 105｜离线强化学习新突破——ROMI：破解对抗式模型学习「过保守、训不稳」深层困局｜ICLR 2026
本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。
3200+ Cursor 用户被恶意“劫持”！贪图“便宜 API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意 npm 软件包，攻击 Cursor 编辑器 macOS 版用户，超 3200 次下载。这些包伪装提供‘最便宜 API’窃取凭据、替换代码，还凸显供应链威胁。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
西工大张伟伟等：强化学习如何练就近距空战制胜法则？| 航空学报CJA
本文针对空战智能化需求，构建高保真近距对抗仿真平台，提出优化自博弈强化学习架构。该智能决策系统与成熟飞行员近距格斗胜率超75%，为智能空战发展提供技术支撑。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
Anthropic 最强模型 Mythos 发布了，但你暂时用不上
4月7日，Anthropic公布全新前沿模型Claude Mythos Preview，但未开放给公众，而是用于网络安全防御项目Project Glasswing。该模型安全能力强大，能发现大量零日漏洞并编写攻击代码，普通用户短期内难用上。
ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御
随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。