「工具投毒攻击」共找到 2037 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
RPA已死，微软Playwright MCP开启AI自动化革命
文章指出RPA已落后，微软Playwright MCP开启AI自动化革命。对比传统RPA与Agent+Playwright MCP方式差异，介绍Playwright MCP优势，还给出15分钟上手步骤及多个使用案例。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
通义实验室最新成果WebDancer：开启自主智能Deep Research的新时代
通义实验室推出 WebDancer，解决自主信息检索智能体构建难题。它创新合成训练数据，采用两阶段训练策略应对开放网络训练挑战，在多个基准测试中表现卓越，未来还将拓展能力。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
上海外滩大会官方艺术展《纠缠，而后日以作夜》
本文介绍2026 Inclusion·外滩大会首届官方AI概念艺术展《纠缠，而后日以作夜》，是外滩大会创办以来首个AI艺术节板块，也是国内首个Agent导览的AI概念艺术展，梳理AI艺术发展脉络，探讨人机共生关系，呼吁保留人类决策能力。
开源免费！一键给Agent接入A股28个「全场景数据端点」
想让Agent分析股票，却因数据来源难解决而无法使用。现推荐开源工具包a - stock - data，可一键给Agent接入A股28个数据端点，无需API等复杂操作，具有零依赖、全栈架构等特点。
零 API Key也能制作视频，首个完整的开源智能化视频制作工作室
OpenMontage可将AI编程助手变成视频制作工作室，用自然语言描述需求，智能体就能完成视频制作。它能做实拍视频，支持多种参考视频输入，零API Key也能用，还给出了运行步骤和推荐Prompt示例。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
前端开的同学，天塌啦，AI把前端开发最后一公里给补上啦，不敢相信，太夸张啦～～～
Vercel Labs 开源的 agent - browser，是面向 AI Agent 的无头浏览器自动化 CLI。它解决了 AI 前端开发缺真实浏览器验证交互的问题，适用于多场景，有诸多对 AI 友好的特性，还介绍了使用方式。