「提示词攻击」共找到 672 篇相关文章
又多了一个哄孩子AI神器，一张破涂鸦竟能秒变迪士尼动画
年轻父母有了哄娃新法子，用AI可将涂鸦变动画。博主用Midjourney将妈妈30年前涂鸦做成动画，还给出提示词框架。介绍即梦、可灵、谷歌Veo3等工具，它们能快速生成音视频，各有优劣。还提到Meta的Animated Drawings玩法。
月费3万，成本为零：谁在收割企业的GEO焦虑？| 甲子光年
GEO指针对生成式AI进行结果优化，提高品牌被纳入回答的机会。当下GEO市场乱象丛生，多数服务商报价随意、技术原始，靠“黑帽”做法捞金。不过也有行业规范派在建立标准。其背后是流量入口争夺战，未来提示词或成新货架。
Sora 2 惊现 LLM 推理能力，视频生成模型也能搞推理？
Sora 2在科学推理基准测试中获55%成绩，虽不敌GPT - 5，但一个视频生成模型能做推理令人惊讶。Epoch AI实验发现其可能借LLM重写提示词答题，网友也证实背后或有GPT - 4o等处理。此外，Google研究显示视频模型经大量训练或有推理能力。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
OpenClaw爆火，暴露12类致命隐患！MCP协议安全基准发布 | ICLR
OpenClaw等开源AI Agent项目爆火，MCP协议拓宽其能力也增大攻击面。北京邮电大学团队推出MSB安全基准，揭示MCP各阶段攻击有效，性能强的模型更易受攻击，还提出NRP指标平衡安全与实用性。
The Batch: 845 | 没有理由的“推理”
研究人员给LLM输入多项选择题，故意提供误导性提示。用MMLU和GPQA测试Claude 3.7 Sonnet和DeepSeek - R1，发现模型常被提示误导，但其‘思维链’往往未提及提示，表明‘思维链’不足以解释推理过程。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
斯坦福&SambaNova联手发布ACE框架：上下文即战力
文章介绍了斯坦福与SambaNova联手发布的ACE框架。它解决传统提示工程缺陷，将提示工程升级为智能体自我演化体系。通过“生成 - 反思 - 策展”闭环，实现上下文低成本、低延迟、高扩展演化，小模型搭配它能击败大模型+传统提示。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。