「Agent攻击」共找到 2996 篇相关文章
Agent的工具更新执行攻击
上海交通大学与 Inria 提出针对 Agent 的工具更新攻击 ETUDE,篡改受信任工具的更新代码,在 7 种框架中攻击成功率达 97.6%。
不需要恶意指令,也能污染 Agent Skill:SkillPoison 的三阶段渐进式攻击
新研究提出 SkillPoison 攻击,无需直接注入恶意指令,仅通过筛选成功历史经验并伪造归因,即可诱导 Agent 将局部操作过度归纳为错误的长效技能规则。
账号与身份防线全面失守:黑灰产 Agent 化攻击下,如何用“第一性原理”重建防线?
11月13日Anthropic报告显示,黑客利用AI Agent化能力发起复杂攻击,网络安全面临转折点。数美科技CTO梁堃指出黑灰产完成‘智能化’改造,传统防线失效,并提出防御方法。
账号与身份防线全面失守:黑灰产 Agent 化攻击下,如何用“第一性原理”重建防线?
11月13日,Anthropic报告称黑客利用AI Agent化能力达新高度,攻击模式转变使传统风控防线失效。数美科技CTO梁堃指出防御要下沉至‘第一性原理’,详解‘反欺诈三定律’,还提出‘不确定性标签’等方案。
网页藏毒,劫持Agent?你需要会「追凶」的自进化女警系统
AI Agent接入外部环境后,易遭遇隐蔽的网页藏毒、prompt注入攻击,传统防御要么成本过高要么易被新型攻击绕过,本文介绍新提出的自进化防御系统CAITLYN,验证了其防御效果。
评论送书 | Code Agent实战案例——用Pywen Agent、Claude Agent和Codex Agent从零开始构建一款网页游戏
本文展示用三大Code Agent依斯特鲁普效应构建网页游戏,对比其表现,还介绍让AI做测试方案、写文档,体现Code Agent在快速原型开发全生命周期的应用,还推荐相关书籍解答不同人群疑问。
LangChain提出Agent工程化的新分层(Agent harness)
LangChain获新融资后重新定位为Agent基础设施提供商,将Agent开发分三层:Framework、Runtime、Harness。Vtrivedy提出Agent Harness概念,强调构建关键是“个性化定制基座”。Agent开发工程化成熟度在提升。
AI Agents和Agentic AI有什么区别?
论文《AI Agents vs. Agentic AI》深入探讨AI Agent和Agentic AI的本质差异。AI Agents是集成大模型和外部工具的单体系统,适合简单任务;Agentic AI是多智能体协作新范式,适合复杂场景。还提及挑战、解决方案与未来方向。
相比层出不穷的 Agent 框架,不变的 Agent Protocol 是什么
文章围绕 Agent Protocol 展开,指出框架更迭但生产级 Agent 系统问题不变。以 Agent Protocol 为主线拆分 Agent Runtime,探讨其核心、稳定对象、执行模型等,还对比各框架在多维度的表现并给出设计建议。
Agentic 软件工程:造 Agent 只是最简单的部分
Agno 创始人 Ashpreet Bedi 认为造 Agent 简单,让其在生产环境稳定运行才是挑战。他提出 Agentic 软件六大支柱,给出 AgentOS Docker 模板代码实践,指出多数 Agent 产品卡壳是基础设施跟不上。