「间接提示注入」共找到 596 篇相关文章

算法论文7

越学越危险,Agent 自我进化中的授权混淆

威斯康星大学等研究发现,具备自我进化的 Agent 会因泛化正常经验丢失权限边界,间接提示注入攻击成功率最高增加 48.8%,仅靠合法用户交互就会诱发越权执行。

模安局
新闻资讯7

谷歌Gemini一次提示能耗≈看9秒电视,专家:别太信,有误导性

谷歌报告称处理一个中位数的Gemini文本提示能耗低,2024 - 2025年单个文本提示能耗降33倍、碳足迹减44倍,归功于全栈式优化。但专家质疑其方法论,指出未算间接用水、碳排放核算不全等问题。

机器之心
算法论文7

DeepMind 提出 CaMeL,抵御 LLM 提示词注入

谷歌DeepMind研究人员提出CaMeL,作为围绕LLM的防御层,通过提取查询中的控制流和数据流阻止恶意输入,能在AgentDojo基准测试中抵御67%攻击,采用传统软件安全原则。

InfoQ
新闻资讯7

谷歌Gemini | 一次提示能耗≈看9秒电视剧?

谷歌发布Gemini能源消耗研究报告,称处理中位数文本提示能耗低,2024 - 2025年能耗降33倍、碳足迹减44倍,归功于全栈式优化。但专家质疑方法论,指出未算间接用水、碳排放核算不全等问题。

AINLPer
新闻资讯7

教全世界与AI对话的男人,正式加入DeepMind!提示工程封神

全球最牛提示工程师Riley Goodside入职谷歌DeepMind,他曾凭和ChatGPT聊天年入百万。他认为ChatGPT发布是提示工程里程碑,提示工程可分上下文工程和提示词编程。

新智元
算法论文7

让AI创作不千篇一律,提示词随机插词汇就行

最新研究发现,在AI开写前由人类提供开头或随机插入词汇,写作效果会更多样,AI写作同质化或因“启动条件”问题。研究创建三类同质化评价指标,还发现向系统提示注入随机词汇可提升模型输出多样性。

量子位
推荐文章8

程序员的提示工程实战手册

文章围绕程序员如何利用提示工程让AI编程助手成为可靠开发伙伴展开。介绍给AI代码助手的提示词技巧、高效代码提示原则,还阐述调试、重构、实现新功能的提示模式,指出常见反模式及应对方法。

宝玉AI
算法论文8

提示工程死亡?不,它刚刚重生为计算科学:一篇讲透Prompt设计的科学基础

大型语言模型在多步推理任务中受挫,因Transformer架构有计算深度限制。本文建立提示设计理论框架,揭示提示是信息选择器,优化提示可使推理性能提升超50%,将提示设计从试错艺术变为可计算科学。

深度学习自然语言处理
推荐文章7

构建可靠AI Agent:从提示词、工作流到知识库的实战指南

本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化,开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略,给出确定AI项目的方法。

阿里云开发者
产品应用7

Fable 5.1 官方提示词指南

Anthropic 发布 Fable 5.1 后,同步发布《Prompting Claude Fable 5.1》提示词指南,列出 15 个 5.1 跟 Fable 5 在行为上的差异,并附修正提示词。还介绍了 Fable 5 提示词变化,以及 Fable 5.1 的新特性和应对建议。

AGI Hunt