「提示词注入攻击」共找到 700 篇相关文章
一夜之间，Claude Code删掉了80%系统提示词
本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。
Gemini 的 PPT 生成：使用技巧及模板提示词
Gemini APP 上线 PPT 生成能力，可通过提示词精细控制，还能与谷歌产品打通。文章介绍其使用方法，如开启 Canvas 模式、利用搜索填充内容等，还分享百搭 PPT 风格提示词。
OpenAI公开4+10条保命指南，专防AI自动化攻击
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。
Nano Banana官方提示词来了，附完整代码示例
Nano banana正火爆全球，谷歌推出官方提示词指南。文中展示其强大效果，如人物合照、生成动画视频、换脸等，还总结其5大核心功能，给出6类提示词及代码示例。
惊爆提示词漏洞？Prompt 工程师开始失业
Noma Labs披露Salesforce Agentforce的“ForcedLeak”链式漏洞，攻击者串联“提示注入”致敏感数据外泄。ESET也报告AI勒索软件PromptLock。Prompt正转向Context，Prompt工程师或失业，价值向能组织语境流程者转移。
谷歌首度证实：黑客已开始用AI发动真实网络攻击！
谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。
17000字Claude 系统提示启示：Karpathy 揭秘LLM 学习缺失“第三范式”
Andrej Karpathy提出LLM学习范式缺失‘系统提示词学习’环节。他观察Claude约17000词的系统提示词，认为目前问题解决策略多靠人工写入，理想情况应通过该学习产生，这也引出诸多待明确细节和新问题。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
释放创造力：解密 AI 贴纸生成器的“神级”提示词模板
文章介绍日本网友分享的 Gem 应用，可上传照片生成各种风格贴纸。详细阐述提示词模板概念、规律特点，还给出波普艺术、日式复古火柴盒等多种贴纸风格提示词库及可用情绪列表，最后鼓励读者动手尝试。
用雨伞「钓」无人机？首个针对自主目标跟踪闭环系统的物理攻击
加州大学尔湾分校研究人员用特制雨伞干扰无人机视觉系统，实现FlyTrap攻击，让无人机误判目标远去而失控俯冲。此攻击无需信号干扰，成功率超60%，有强泛化能力，揭示了AI感知系统安全隐患。