「防御措施」共找到 160 篇相关文章
NeurIPS滑跪认错！一切都是误会，已纠正
NeurIPS 2026年征稿规则以遵守美制裁规定为由，禁止美清单上的中科研机构等参与学术活动。CCF强硬发声、中国科协给出反制措施后，NeurIPS公开道歉，称是沟通误解。
谨慎用OpenClaw：上海科技大学发布其全面安全体检报告
上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
复制失败与脏碎片：Linux 页面缓存漏洞影响所有主流发行版
一周内，两处 Linux 内核本地权限提升漏洞“复制失败”和“脏碎片”被披露，可使无特权本地用户获 root 权限。前者由 Theori 用 AI 工具发现，后者由 Hyunwoo Kim 发布，均影响页面缓存，与“脏管道”属同一类漏洞。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics，基于分形水印的主动深度伪造检测与定位
近些年来，深度伪造主动防御受关注，但现有方法有鲁棒性不稳定等问题。新加坡国立大学等团队提出 FractalForensics 方法，基于分形水印实现主动深度伪造检测与定位，实验效果良好。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
爆火AI编程Windsurf突遭Claude全面断供，开发者大量退订！直接打脸OpenAI
AI编程工具Windsurf突遭Anthropic切断Claude 3.x系列模型API访问权限，CEO称仅获五天通知。用户大量退订，Windsurf官方激烈回应，采取应对措施，AI编程领域大战正酣。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。