「攻击面」共找到 576 篇相关文章
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
OpenAI总裁出钱办了个“新闻网站”：AI扮记者做采访，专门攻击AI监管派
2026年4月调查显示，Acutus“独立新闻网站”97％文章含AI内容，攻击对象为AI监管派，资金源于OpenAI总裁。其用AI生成稿件，审稿草率，还与政治公关公司客户名单重合，是OpenAI舆论运作一环。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日，Anthropic报告称黑客利用AI Agent化能力达新高度，攻击模式转变使传统风控防线失效。数美科技CTO梁堃指出防御要下沉至‘第一性原理’，详解‘反欺诈三定律’，还提出‘不确定性标签’等方案。
月之暗面硬刚Anthropic！开源万亿参数Kimi K2，Agent编码性能直逼闭源最强！
上周五月之暗面发布并开源万亿参数Kimi K2，外网评价高。它或开启开源AI的“Agentic时代”，在智能体和编码基准上表现出色，成本远低于竞品，但推理速度较慢，已可平替Claude。
12毫秒暴露自动驾驶致命缺陷，北航新研究实现场景感知的动态物理对抗攻击｜TPAMI2025
近日部分L3级自动驾驶车型获批上路，但自动驾驶感知系统存在缺陷。北航等机构提出DynamicPAE框架，实现场景感知的动态物理对抗攻击，解决多维度挑战，在多场景表现优异，被TPAMI2025录用。
美团面试题：如何设计多轮对话智能客服Agent。评论区吵翻了，但答案可能就一句话。
文章围绕美团面试题，探讨如何设计多轮对话智能客服Agent。指出AI Agent核心是Context Engineering，介绍业内架构，强调给AI不同容忍度、分步骤处理复杂问题，还提及解决体验问题，认为产品要知边界。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
TileLang vs Triton 详解：谁该握住控制面——编译器还是开发者？
文章对比 TileLang 与 Triton 两个框架，解释控制面设计、并发协议、编译管线的本质差异，以及这些差异如何影响性能上限、工程投入。明确 TileLang 追求榨干内核，性能上限高但对开发者要求高；Triton 追求快速落地，生态成熟。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。