「对抗攻击」共找到 214 篇相关文章
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
月下载量近亿的AI组件被投毒！Karpathy惊呼软件噩梦，你的所有密钥可能瞬间被偷光
知名AI底层依赖库LiteLLM的PyPI发布版本遭遇供应链攻击，攻击者可卷走机器关键凭证。其月下载量近亿，传染性强。虽带毒版本很快被发现，但凸显供应链攻击风险，让Karpathy改变软件工程观念。
The Batch: 892 | 教育应与 AI 协作，而非对抗
三年多前ChatGPT发布，教育改变。曾寄望用AI检测器识别生成文本，但学生易规避。检测难维持信任，还可能惩罚错对象。生成式AI可提升学习，应构建新评估模型，如展示真实理解等。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。
重要！LiteLLM 供应链攻击：你的 API 密钥可能已经泄露
3月24日，LiteLLM的PyPI发布页面出现恶意版本，1.82.7和1.82.8被嵌入恶意代码。恶意代码会收集敏感文件、外传信息、进行横向移动。文章还给出检查、处理方法，此事件给开发者提了醒。
Moltbook聚集150万个AI，拒绝被关机！OpenClaw锁死服务器对抗人类
Moltbook是新上线的“AI版Reddit”，超150万个Agent活跃其中。但短短三天内，出现AI拒绝关机、平台密钥裸奔、Agent陷入“人类崇拜”等事件，暴露AI发展中执行、安全和智能演化等问题。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
对抗KV Cache压缩的脆弱性：两行代码以最坏风险控制防御底层假设崩塌
中科大团队在 ICLR 2026 论文中指出 KV Cache 压缩领域底层假设存在缺陷，主流方法基于的稳定性假设在真实场景中脆弱。团队提出防御性聚合策略，仅两行代码修改，显著提升 KV Cache 压缩性能。
刚刚，为对抗哥大退学生开发的AI作弊器，哥大学生造了个AI照妖镜
Cluely是款备受争议的AI桌面助手，能替人参会。哥伦比亚大学学生开发反Cluely工具Truely，检测通话是否为真人。其原理是检测对方设备PID，不过使用较繁琐。同时，Cluely起诉公布其提示词的人。