「工具投毒攻击」共找到 2034 篇相关文章
Agent 开发，迎来「AI 云原生」时刻
大模型时代，交互主体变为 Agent，「AI 云原生」应运而生。它围绕 Agent 重构架构，有全新技术栈。基于火山引擎工具和模型，展示了 Agent 开发的新流程，还做了两个应用案例。
GitHub 推出 MCP 服务器集成，全面扩展机密扫描功能
GitHub宣布MCP Server全面支持机密扫描功能，将其扩展至AI辅助和代理驱动的开发工作流，可让外部工具和AI工作流访问安全洞察、自动化修复。这反映安全工具正从被动检测转向自动化治理。
刚刚，Anthropic公布Fable 5.1保姆级使用技巧，看完少走十天弯路
Claude Fable 5.1虽可兼容旧版提示词，但行为习惯有变化。官方整理提示词与工程落地指南，涵盖思考程度、工具调用进度汇报、独立工具批量调用等多方面使用技巧和避坑细节。
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
在NeurIPS 2025，哥大与罗格斯提出LARGO，它不改提问，直接在模型“潜意识”动手脚，绕过安全防护输出不该说的话。其分三步攻击，成功率高、隐蔽且迁移性强，暴露大模型根本性弱点。
AI编程 OpenWolf 持久记忆实战
当前AI编程助手缺乏持久记忆，每次新会话都要重新解释项目信息。开源工具OpenWolf在Claude Code运行流程中嵌入Hook脚本，形成记忆系统，能自动积累经验、减少重复工作，还介绍了记忆文件、适用场景等。
谷歌AlphaEvolve太香了，陶哲轩甚至发了篇论文，启发数学新构造
著名数学家陶哲轩与 Google DeepMind 研究人员发表论文，展示谷歌 AlphaEvolve 作为工具可自主发现新数学构造，该系统结合 LLM 与进化计算，在多领域问题上表现出色，还能与其他 AI 工具结合。
Fable5仅做对3.5%！大模型会看图，但还没有主动视觉
本文介绍了专门测量「主动观察」能力的视觉推理基准 ActiveVision，评测显示无外部工具时，大模型与人类准确率有近 9 倍差距，用工具后虽提升但仍远不如人类，还说明了其出题与避免取巧的方式。
AI读不懂文档结构？计算所重构Agentic RAG文档推理能力
大语言模型工具使用能力推动RAG进化，现有Agentic Search框架有“结构盲”问题。中科院计算所团队提出DeepRead，将文档结构转化为坐标系统，用两大工具协同实现类人推理，在多数据集验证效果显著。
程序员每十年就“要被取代”一次：这件事从 1969 年开始
文章回顾软件开发史，从 COBOL 到如今的 AI 编程工具，每次新技术都承诺让编程变简单，但始终无法绕开复杂性。指出软件开发瓶颈在处理复杂性的思考能力，提醒用新工具时保持清醒。