「防御图谱」共找到 174 篇相关文章
OpenAI公开4+10条保命指南，专防AI自动化攻击
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
详细介绍！RAG 和 GraphRAG：了解何时（When）、如何（How）使用它们
文章详细介绍传统RAG和GraphRAG技术，前者通过向量搜索检索上下文，但无法体现数据关系；后者用知识图谱提升检索效果，亮点是构建图谱、整合信息。还指出两者优缺点，建议结合使用。
NTU等联合提出A-MemGuard：为AI记忆上锁，投毒攻击成功率暴降95%
在AI智能体依赖记忆系统的当下，记忆投毒攻击兴起。A-MemGuard作为首个为LLM Agent记忆模块设计的防御框架，通过共识验证和双重记忆结构，解决防御难题，使投毒攻击成功率暴降超95%。
GraphRAG圈新秀：文档级RAKG
随着大模型能力增强，知识图谱成研究热点。传统KGC有实体消歧难、模式僵化等痛点。文章提出RAKG框架，将RAG评估机制引入知识图谱构建，实现文档级自动化构建与评估，多指标表现优异。
TruthfulRAG，用知识图谱硬刚RAG知识冲突
RAG系统存在知识冲突问题，现有解决方法治标不治本。TruthfulRAG将非结构化文本转化为结构化事实，通过图构建、图检索、冲突解决三大模块解决冲突，实验显示其表现优异，结构化表示还提升了LLM置信度。
从实验室到独角兽：WAIC云帆奖得主的创业图谱
WAIC云帆奖自2020年设立，发掘149位顶尖华人AI青年人才。这些曾专注学术的青年学者如今走向商业战场，云帆奖后续将依托社区为其提供全方位服务，助力创业。
图谱检索全面 or 效率？蚂蚁&浙大Deep GraphRAG：全都要
传统 RAG 遇复杂 Query 易失效，GraphRAG 带来新三难。蚂蚁与浙大提出 Deep GraphRAG，有层次化检索、Beam - Search 重排、DW - GRPO 强化学习三板斧，实验显示其性能优、延迟低。
AI x 保险图谱：第一家 AI-Native 的保险独角兽会长什么样？
保险业规模庞大但运营效率极低，超 60%流程依赖人工，索赔周期长、客户满意度低。过去两年，LLMs 提升了 AI 处理非结构化信息的能力，使 AI 接管保险核心流程成为可能。GenAI startup 围绕保险流程构建产品，AI-native 保险公司也应运而生。