「间接提示词注入攻击」共找到 569 篇相关文章
AI是「天才」还是「话术大师」？Anthropic颠覆性实验，终揭答案！
Anthropic新研究证实Claude模型有一定内省意识，能控制自身内部状态。用「概念注入」实验，Claude Opus 4和4.1表现最佳。不过该能力不可靠、局限大，未来进化情况待察。
7年了，OpenAI官方给出五代GPT对比，网友却怀念起「狂野」初代
OpenAI总裁分享给定相同提示下，GPT-1到GPT-5输出的差异，对比显示GPT系列在知识储备等方面不断进步，但网友看法不一，不少人怀念初代模型的‘狂野’。
Google研究发现：Multi-Agent的核心竟然是Prompt设计！
Google和剑桥大学研究多智能体系统，发现提示设计影响大，有效拓扑结构占比小。提出Mass框架分三阶段优化，实验用Gemini 1.5 Pro和Flash模型，对比多种方法，在多任务上性能显著提升。
Claude Code 用户早晚要找的东西：完整的聊天记录
Claude Code回看聊天记录不便，但回看提示词很有价值。作者研究了相关管理器，推荐claude - code - history - viewer和Claude Code Sessions，前者可完整查看本地记录，后者有重命名、删除会话等特色功能。
为AI打造的知识图谱服务器MemoryMesh
MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
研究显示：AI 并没有提升编程效率，它反而让你变慢了19%
METR研究显示，16位资深开发者在真实项目测试中，使用AI工具效率降低19%。分析发现，编写提示词、等待响应等耗时多，保留代码仅44%。研究指出多因素致效率低，网友看法不一。
ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了”
ChatGPT大更新，推出学习模式，像老师般引导思考，对多类用户开放。它由OpenAI与多方合作打造，结合学习科学成果。目前用提示词实现，未来会训练进模型，还将多方面改进，或重塑教育模式。
刚刚开源就收藏 1000+ 收藏的 DeepSeek Harness 橙皮书，它把Harness拆解个遍！
DeepSeek Harness开源同日，《DeepSeek Harness：从开机到拆开》上线。作者花叔实测记录大量官方文档未写的细节，如完整系统提示词、出厂启动清单等，全书分四部分，获取方式简单。
打破碎片化瓶颈！浙大&哈佛开源UniGeo，高保真相机可控编辑
当前主流相机可控图像编辑基于图像扩散模型，应对连续相机运动易出现问题。近日，浙大联合哈佛发布UniGeo框架，在三核心层面注入统一几何引导，克服结构退化，提升视觉质量与跨视角一致性。