「提示注入攻击」共找到 700 篇相关文章
Google研究发现：Multi-Agent的核心竟然是Prompt设计！
Google和剑桥大学研究多智能体系统，发现提示设计影响大，有效拓扑结构占比小。提出Mass框架分三阶段优化，实验用Gemini 1.5 Pro和Flash模型，对比多种方法，在多任务上性能显著提升。
Claude Code 用户早晚要找的东西：完整的聊天记录
Claude Code回看聊天记录不便，但回看提示词很有价值。作者研究了相关管理器，推荐claude - code - history - viewer和Claude Code Sessions，前者可完整查看本地记录，后者有重命名、删除会话等特色功能。
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic 称发现‘首个由 AI 协同操作的网络攻击行动’，Claude Code 自动化完成达 90%工作。但外部研究人员谨慎看待，Yann LeCun 质疑其用可疑研究恐吓众人，专业人员也指出报告未达专业标准。
为AI打造的知识图谱服务器MemoryMesh
MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
研究显示：AI 并没有提升编程效率，它反而让你变慢了19%
METR研究显示，16位资深开发者在真实项目测试中，使用AI工具效率降低19%。分析发现，编写提示词、等待响应等耗时多，保留代码仅44%。研究指出多因素致效率低，网友看法不一。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了”
ChatGPT大更新，推出学习模式，像老师般引导思考，对多类用户开放。它由OpenAI与多方合作打造，结合学习科学成果。目前用提示词实现，未来会训练进模型，还将多方面改进，或重塑教育模式。
刚刚开源就收藏 1000+ 收藏的 DeepSeek Harness 橙皮书，它把Harness拆解个遍！
DeepSeek Harness开源同日，《DeepSeek Harness：从开机到拆开》上线。作者花叔实测记录大量官方文档未写的细节，如完整系统提示词、出厂启动清单等，全书分四部分，获取方式简单。
打破碎片化瓶颈！浙大&哈佛开源UniGeo，高保真相机可控编辑
当前主流相机可控图像编辑基于图像扩散模型，应对连续相机运动易出现问题。近日，浙大联合哈佛发布UniGeo框架，在三核心层面注入统一几何引导，克服结构退化，提升视觉质量与跨视角一致性。