「工具投毒攻击」共找到 2034 篇相关文章
RDSAI-CLI - 用AI重塑数据库终端CLI体验
阿里云RDS团队在发布「RDS AI助手」后，推出智能终端工具RDSAI-CLI。它融合大语言模型能力，将数据库命令行操作升级为意图式交互。该工具已开源，有基础与高级功能，未来还会持续优化。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
进攻是最好的防守：超级平台为何「不得不」对AI智能体出手？
上海交通大学团队提出，超级平台“必须”攻击AI智能体，以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因，还阐述平台应对策略、攻击策略特点约束，最后强调要推动建设性技术治理生态。
3.2K Star！这个开源字幕神器，对剪视频的创作者来说，救了大命！
视频创作中字幕制作耗时费力，剪映等工具各有局限。开源字幕工具 AutoSubs 能有效解决痛点，可一键生成高质量字幕、自动区分说话人，本地运行保障隐私，还具备多种亮点功能，使用简单。
《动手写AI Agent》50 行代码，你的第一个 Agent
文章教你用50行代码打造能读文件、跑命令、自主决策的AI Agent Ling。介绍用JSON Schema给LLM装工具，通过循环让LLM按需调用工具，还给出运行示例及与Claude Code的对照。
装上这个Skill后，Claude Code联网能力直接拉满
Web Access 是给 Claude Code 用的 Skill，装上后 Agent 联网能力大幅提升。它解决了 Claude Code 原有联网工具的问题，有联网工具自动选择、CDP 浏览器操作等能力，还介绍了安装方式和设计哲学。
Anthropic重磅新研究：当AI采访了1250人，它看见了人类的「职业软肋」
Anthropic推出Interviewer工具，与1250名职场人、创作者、科学家深度对话，记录细节并量化。该工具能自动完成访谈、分析等流程，受访者满意度超97%。研究揭示不同职业对AI态度受职业结构等因素影响。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
UI-TARS-desktop：字节跳动的原生GUI智能体，用自然语言控制电脑和浏览器
字节跳动开源的UI-TARS-desktop是原生桌面GUI智能体工具，基于UI-TARS和Seed-1.5-VL系列模型。能用自然语言操控电脑和浏览器，有本地和远程两种模式，支持多平台，还对比了同类工具。
11.8k Star 爆火！Firecrawl开源王炸，秒级生成React应用！
知名网页抓取工具Firecrawl团队推出开源项目Open Lovable，几天内获11.8k Star。它是AI网页克隆工具，能秒级将网站克隆为React应用，功能丰富，适合多类人群，还介绍了上手步骤和应用场景。