搜索：防御图谱 - AI Reading Hub

「防御图谱」共找到 174 篇相关文章

ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御

随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。

Anthropic宣布开源电路追踪工具，可追踪LLM神经元，通过生成“归因图谱”揭示模型输出原因。开源了生成图谱的库和交互式前端，并提供demo notebook。可追踪电路、可视化图谱、检验假设。

AI Agent接入外部环境后，易遭遇隐蔽的网页藏毒、prompt注入攻击，传统防御要么成本过高要么易被新型攻击绕过，本文介绍新提出的自进化防御系统CAITLYN，验证了其防御效果。

量子位智库发布2026年中国AI应用全景图谱报告，记录变革时刻横截面。国内AI应用活跃，不同赛道表现有差异。报告还指出Agent化、模型普惠化等五大趋势重塑行业，揭示产业向产品及商业化转变趋势。

医学领域需处理复杂关系，现有医学AI系统缺乏对罕见实体和复杂关系的推理能力。MedResearcher - R1通过专门图谱和检索工具，结合两阶段训练范式解决问题，在医学基准测试取得新成果。

文章以 Routa 看板项目卡为例，阐述 Agent Team 的 Harness 工程防御体系。指出任务完成不等于交付结束，强调 Gate First 理念，即先确认可验证状态再推进协作，还提及运行时边界等重要概念。

合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。

香港大学黄超教授团队发布开源项目RAG - Anything，构建统一多模态知识图谱架构，解决传统RAG技术局限。它能处理多类型异构内容，提供端到端方案，有多种优势及应用模式，还给出部署指南和未来展望。

吴恩达在信中详细展开AI工程技能图谱中构建和部署AI应用这一项，介绍需了解的技能，如LLM基础、用数据为模型提供依据等，并阐述各技能要点，还提及构建AI系统与传统软件的区别。

给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。