搜索：提示注入攻击

「提示注入攻击」共找到 700 篇相关文章

NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT：仅30个样本教会大模型高效推理，token消耗降低50%

大型推理模型在精确数学计算上存在问题，如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架，用创新数据合成与多阶段训练，提升模型推理能力和效率，成果已开源。

文章参考ACE论文架构与提示词设计，实现可自我学习与进化的ACE智能体原型。介绍整体架构、各模块实现逻辑、工作流组装测试，也指出当前问题如LLM表现波动大等，并给出改进方向。

在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。

Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。

今年6月Andrej Karpathy提出用「上下文工程」取代「提示词工程」。Anthropic发布工程博客呼应此观点，指出构建AI应用重心转向策划上下文。文章详述上下文工程重要性、有效上下文剖析、检索及长时任务应对技术等。

文章揭秘 OpenAI 内部使用 Codex 的情况，介绍其在理解代码、重构迁移、性能优化等多方面的应用场景，还给出最佳实践，如用‘提问模式’开始、组织好提示等，展现了 Codex 强大的开发辅助能力。

前几天发 Nano Banana 测评后，很多人不知怎么用。刚好做手办图玩法火了，作者教大家在 LM Arena 用 Nano Banana 编辑图片、做手办图，还介绍把图片变视频及剪辑的方法。

Figma 在设计平台集成 AI，有自动命名层等功能，能将文本提示等转换为生产就绪代码。其 AI 功能基于早期基础设施，关键在于 Dev Mode 和 MCP 服务器，确保设计师掌控输出，降低制作软件障碍。

大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。

论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。