「攻击方式」共找到 963 篇相关文章
ACL'25 | 多智能体叛变进行中？首个多智能体安全守卫G-Safeguard亮相！
随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 宣布将旗舰开源项目转为闭源，因无力应对 AI 攻击开源代码风险。其联合创始人称，现有开源安全模式难以抵御 AI 攻击。此举引发开发者质疑，也凸显 AI 对开源模式的冲击。
今天，Claude入职了！
Anthropic官宣Claude Tag，这是团队协作用Claude的全新方式，像“AI同事”般出现在Slack会话栏，响应主动，完成65%代码编写。它是Claude Code升级版，与前两代AI交互方式不同，Anthropic已离不开它。
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
在NeurIPS 2025，哥大与罗格斯提出LARGO，它不改提问，直接在模型“潜意识”动手脚，绕过安全防护输出不该说的话。其分三步攻击，成功率高、隐蔽且迁移性强，暴露大模型根本性弱点。
AI「看不懂」、「做不好」视频的问题，混元用「MTSS」解决了
腾讯混元团队提出 Multi-Stream Scene Script（MTSS）新视频描述范式，将传统方式升级为‘多流结构化剧本’。它解决了传统方式语义冗余、扩展性差等问题，在视频理解和生成任务表现显著。
基于 AI 的机器人攻陷微软、DataDog 和 CNCF 项目中的 GitHub Actions 工作流
近期，一个基于AI的机器人利用GitHub Actions工作流，在2026年2月21 - 28日对微软、DataDog等项目发起攻击，成功在多个代码库实现远程代码执行并窃取凭证，还出现AI对AI攻击，组织需加强安全审计。
「看」能否取代「读」，为何DeepSeek-OCR 爆火的重点不在性能？
DeepSeek近期开源的DeepSeek - OCR在AI社区引发热议。它提出‘上下文光学压缩’理念，以视觉方式压缩文本。社区关注重点在其研究思路对NTP范式的影响，有望解决长上下文经济性难题等。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
进攻是最好的防守：超级平台为何「不得不」对AI智能体出手？
上海交通大学团队提出，超级平台“必须”攻击AI智能体，以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因，还阐述平台应对策略、攻击策略特点约束，最后强调要推动建设性技术治理生态。