搜索：工具投毒攻击

「工具投毒攻击」共找到 2034 篇相关文章

Anthropic重磅研究：250份文档就能 “搞垮” 大模型？

Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。

研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。

作者白杨SEO看到一张称主流AI工具成史上最大流量入口的图，提出质疑。他指出数据存疑，AI用户使用量远不及搜索，商业化也不成熟，还对比国内外AI搜索优化GEO差异，认为企业要提前布局。

DeepLearning.AI发布Skill Builder工具，可根据用户AI项目经历给出个性化反馈和提升建议，从初学者到高级用户都适用，完全免费，还会生成总结报告，Pro会员有更详尽反馈。

网络系统复杂，传统渗透测试繁琐低效。开源项目CyberStrikeAI基于Golang开发，集成100+安全工具，通过自然语言对话让安全测试变简单，在GitHub获2.6K+ Star，优势显著。

这是基于Javascript的纯浏览器端Gemini AI图像无损去水印工具，用反向Alpha混合算法，有纯浏览器端处理、隐私保护等特性，介绍使用方法、算法原理等。

复旦大学和通义实验室提出 ToolCUA，让模型在 GUI 与工具调用间编排路径。它从已有 GUI 轨迹合成训练数据，设计奖励机制，在 OSWorld - MCP 评测中效率与准确率大幅提升，为 CUA 发展提供方向。

文章探讨了Skills在AI Agent发展中的价值演变与适用场景，指出其价值具高度场景依赖性。在Claude Code编程工具中它表现平淡，在Agent研发中价值凸显，还给出使用场景判断维度与发展方向。

谷歌发布 Angular 21 版本，引入 Signal Forms 提高表单响应性，推进 zoneless 变更检测，还提供 AI 驱动开发工具，有打包配置、组件库等更新，虽引不同看法，但提供清晰迁移路径。

在AI开发工具领域，VSCode成主战场，但背后有技术和策略拉扯。开发者面临战略选择，VSCode有诸多限制，OpenVSX虽提供替代方案但插件不全，Cursor崛起引发微软动作，未来走向待察。