「误导性提示」共找到 962 篇相关文章
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
继微软Playwright之后，谷歌Chrome DevTools MCP也来了（网站开发，AI 自动调试控制台错误）
继微软Playwright后，谷歌推出Chrome DevTools MCP，可让AI代理用上Chrome DevTools，能查DOM/CSS、跑JS等。文中给出多种使用提示词示例，还提供了安装方法链接。
正确答案 ≠ 正确推理，CoT 或成大模型推理能力停滞的「罪魁祸首」？
研究指出当前大模型推理能力评估多关注答案准确性，忽视推理步骤。通过对前沿模型测试发现，2023 - 2024 年大模型推理能力提升停滞，进步靠提示工程，自底向上策略最有效。
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
微软炸场了！一张图片仅需3即可生成带完整PBR材质的超高质量3D资产！
微软推出3D资产生成大模型TRELLIS，能接收文本或图像提示，输出高质量3D资产。其结果质量强，支持灵活切换输出格式和局部3D编辑，还给出安装和使用方法及项目地址。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
让机器人学会手往哪儿伸、怎么操作，东大团队给了新解法
东南大学魏秀参团队提出 RAAP 解决具身智能领域可供性预测难题。它将 affordance 分解，设计互补推理机制，每任务仅需数十样本，已被 ICRA 2026 接收，实验显示其性能优于基线。
超棒！打造顶级智能体Claude Code的经验教训
Claude Code工程师Thariq文章受开发者盛赞，揭示打造智能体经验。提示词缓存是关键，要合理排列顺序；管理动态上下文需避免破坏缓存；为智能体选适配工具，随模型进化调整行动边界。
ICML 2026史上最严新规：LLM不得列为作者，滥用AI直接退稿
ICML 2026论文征稿开启，截止2026年1月28日。组委会强调三点：LLM不署名；禁提示注入，否则拒稿；扩大AI审稿。还明确允许用LLM辅助，但作者担责，另有参会、版本发布等政策变更。
刚刚，Gemini 2.5 Pro升级，成编程模型新王
Google DeepMind发布Gemini 2.5 Pro (I/O edition)，编程能力大幅提升，在编程排行榜超Claude 3.7 Sonnet。用户用一个提示词或草图+描述就能构建应用，谷歌大佬站台，网友实测效果佳。