「间接提示词注入攻击」共找到 569 篇相关文章
从混沌到可控：企业应用中AI Agent不确定性控制的 10 种策略
大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。
OneSearch，揭开快手电商搜索「一步到位」的秘技
本文介绍快手提出的电商搜索端到端生成式框架 OneSearch。它有三大创新，包括 KHQE 模块、用户行为序列注入策略、偏好感知奖励系统。实验显示它在多方面提升显著，已部署于快手电商搜索场景。
交互扩展时代来临:创智复旦字节重磅发布AgentGym-RL，昇腾加持，开创智能体训练新范式
强化学习之父指出人工智能迈入「经验时代」，在此背景下，复旦、创智、字节研究者发布 AgentGym - RL 框架。它是全新端到端 RL 框架，提出 ScalingInter - RL 方法，7B 模型经训练追平顶尖商业模型，为 AI 发展注入动力。
只提升2个点？我实测Claude 4.1后，发现官方在骗人
官方更新Claude 4.1，作者实测其与Claude4、DeepSeek R1在生成UI设计图、卡片、网页游戏开发等方面的能力。结果显示Claude 4.1进步大，尤其在理解提示词和视觉设计能力上，还能精细修改多文件。
谷歌Veo 3玩法大升级！“360°”关键词解锁3D效果，Fast版同分辨率价格暴降5倍
谷歌旗舰视频模型Veo 3玩法再升级，添加“360°”提示词可解锁3D环绕效果。其Fast版速度更快、价格更便宜，同分辨率下价格暴降5倍，虽面部细节和光照表现有下降，但解决了部分问题。
18岁天才少年，登上Nature封面！
DeepSeek-R1荣登Nature封面，成史上首个经严格同行评议大模型。18岁天才少年涂津豪以实习生身份参与，其从高中生到Nature作者的经历堪称传奇。他还改造Claude 3.5，开源项目获15k多星，还对AGI发表思考。
当AI接管70%代码审查工作，剩下的30%才是 “地狱模式”
2024年初“Vibe Coding”成热词，其虽能快速验证想法，但在大型企业项目中“不可控性”凸显。亚马逊云科技研发的Kiro，尝试解决“从提示词到生产”的断裂问题。目前代码审查多采用混合模式，AI仅处初级阶段。
AI 编码圈新卷王 Magic Path 来了，Claude Engineer 团队出品，号称UI设计的 Cursor 时刻。
Magic Path是Claude Engineer团队推出的AI驱动UI设计工具，非开源但有免费额度。它AI先行，能按提示词生成组件和React代码，亮点诸多，上手体验佳，生成UI可用，还有页面串联等功能，虽有不足但潜力大。
Claude Fable 5.1与GPT-5.6社区一手实测
Anthropic的Claude Fable 5.1刚上线，社区就将其与OpenAI的GPT - 5.6 Sol实战对决。采用同一提示词等严苛规则，结果Fable 5.1细节碾压但有bug，成本高；GPT - 5.6 Sol成本低、风格稳定。还给出选型参考。
万字硬核解读SAM 3：不止分割一切，它开始理解世界了
Meta的SAM 3能理解语义，实现可提示概念分割。它支持开放词汇、全实例分割等，架构有创新，数据引擎高效。评估显示其性能优异，与MLLM结合成SAM 3 Agent后推理分割能力强，但在专业领域和复杂场景有局限。