「纵深防御」共找到 96 篇相关文章
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek - R1 - Safe基础大模型，提升了我国AI系统自主安全防控水平，任奎获“科研创新卓越贡献奖”。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
刚刚，Anthropic王炸Claude泄露！全面碾压Opus 4.6引爆全网
因「人为配置」错误，Anthropic最强模型Claude Mythos细节泄露。它编程、推理能力超Claude Opus 4.6，还具备网络攻防能力，但也带来安全风险，Anthropic因担心被黑客利用暂未发布。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日Anthropic报告显示，黑客利用AI Agent化能力发起复杂攻击，网络安全面临转折点。数美科技CTO梁堃指出黑灰产完成‘智能化’改造，传统防线失效，并提出防御方法。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。