搜索：提示词注入攻击

「提示词注入攻击」共找到 700 篇相关文章

Anthropic：我们如何构建多智能体研究系统

Anthropic分享构建多智能体研究系统的经验，该系统用多个Claude智能体探索复杂主题。介绍了多智能体系统优势、架构、提示工程、评估方法，也提及生产环境的挑战，此系统处理开放式研究任务价值大。

墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。

作者李继刚分享画图 Prompt 两则。因 Gemini Nano banana pro 画图风格太‘AI’，提出注入指定风格解腻，介绍了生成 Swiss 风格《鬼灭之刃》继国缘一战斗特写及日系下雪天初恋男女操场玩闹写真海报图的具体要求。

大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。

蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。

本文是Sora 2 App上手体验攻略。Sora 2 PC版能依提示词生成精美电影感视频，还可创建虚拟形象；App交互似抖音，能录制上传自身形象生成视频。其生成视频镜头自然，有“AI导演感”，但目前时长较短。

苹果最新研究揭示大推理模型（LRM）在高复杂度任务中普遍‘推理崩溃’。即便给予明确算法提示，模型亦无法稳定执行，暴露推理机制的局限性。研究还通过多种实验环境分析了模型在不同复杂度问题中的表现。

今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。

文章围绕SDD在复杂业务系统落地展开，介绍OpenSpec库使用，对比与系分差异，分析其优势与问题，如LLM与IDE执行能力鸿沟、无update命令等，还对比OpenSpec和GitHub Spec Kit，并给出流程及提示词。

图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。