「攻击检测」共找到 344 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
AI驱动的开源攻击框架：HexStrike-AI
HexStrike-AI是安全研究员开发的开源攻击框架，2025年7月起在GitHub免费提供。它基于MCP协议，集成LLM与150多种工具，可自动化渗透测试和漏洞发现。曾被网络犯罪分子利用，能加速攻击流程，展现强适应和并行化能力。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
ICML 2026｜表格异常检测能否告别「one-for-one」？OFA-TAD迈向one-for-all通用异常检测新范式
表格异常检测在多领域作用关键，但当前 one-for-one 范式成本高、泛化弱。Griffith 和同济团队提出 OFA-TAD，推进到 one-for-all 范式，在多源数据集训练一次即可迁移，实验表现优异。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
OpenAI公开4+10条保命指南，专防AI自动化攻击
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。
从检测到通用感知：构建空间智能的基础
本文整理自张磊在AICon 2025北京的分享，分析语言与视觉原生模型架构区别，介绍基于Transformer的物体检测算法及开集检测技术进展，如Grounding DINO和DINO - X，还探讨其在多领域的应用和潜力。
YOLOv8-SST：水面小目标检测极致改进，降低漏检
浙江水利水电学院董慧贞团队提出YOLOv8 - SST算法，针对水面小目标检测的噪声干扰、定位不准、泛化能力弱三大痛点分别改进。经实验，该算法提升了检测精度，推理速度也能满足实时需求，还给出了实战代码。
谷歌首度证实：黑客已开始用AI发动真实网络攻击！
谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。