「提示词攻击」共找到 672 篇相关文章
The Batch: 876 | Gemini 的环境影响测算
谷歌研究人员对驱动 Gemini AI 助手的模型进行一年研究，发现处理一个提示的环境影响小。其能耗、水耗和温室气体排放量远低于此前估算，2024 - 2025 年处理中位提示时能耗、排放大幅降低。
刚刚，Anthropic公布Fable 5.1保姆级使用技巧，看完少走十天弯路
Claude Fable 5.1虽可兼容旧版提示词，但行为习惯有变化。官方整理提示词与工程落地指南，涵盖思考程度、工具调用进度汇报、独立工具批量调用等多方面使用技巧和避坑细节。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
TPAMI 2025 | AI对抗迁移性评估的「拨乱反正」：那些年效果虚高的攻防算法们
本文第一作者赵正宇来自西安交大，针对现有迁移攻击方法缺乏系统公平对比分析的问题，将其分为五大类，在 ImageNet 上对 23 种攻击与 11 种防御方法开展评估，证实评估缺陷会误导结论，解决后有新见解。
谷歌最强AI图像模型Nano Banana 100+精选案例，商业级 AI 创意图集！附高清Prompt
Awesome-Nano-Banana-images收集Nano-banana在各任务场景生成的惊艳图片与提示词，展示Google图像生成与编辑无限可能。文中列举插画变手办、根据地图箭头生成图片等110个案例及对应输入和提示词。
烧了2000美金后，我发现Vibe Coding“已死”！
作者黄叔分享科研成果Spec Coding，称Vibe Coding已死，因其Prompt易逝、迭代混乱。Spec Coding复杂度高于提示词工程，文中给出从0到1及迭代的提示词和步骤，还提及额外好处及理念特性。
继微软Playwright之后，谷歌Chrome DevTools MCP也来了（网站开发，AI 自动调试控制台错误）
继微软Playwright后，谷歌推出Chrome DevTools MCP，可让AI代理用上Chrome DevTools，能查DOM/CSS、跑JS等。文中给出多种使用提示词示例，还提供了安装方法链接。
MCP协议曝出大漏洞：会泄露整个数据库
最新研究显示，MCP协议存在重大漏洞，攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库。研究者基于Supabase搭建系统演示攻击过程，还给出降低风险的解决措施。
写给Agent的Loop，关键不在循环那六行代码本身
最近‘别再一句句给Agent写提示词，去写循环’说法火了。虽循环代码简单，但关键在模型周围。循环工程有四大难点，角色也从操纵Agent变为设计系统，不过此说法也有反对声。
震撼，世界模型第一次超真实地模拟了真实世界：谷歌Genie 3昨晚抢了OpenAI风头
昨晚谷歌DeepMind宣布Genie世界模型到第3代，能通过单个文本提示词创建交互式、可玩环境。它在多方面优于前代及其他模型，具备构建完整世界能力，但也存在动作空间有限等局限，未来应用值得期待。