「prompt 注入」共找到 292 篇相关文章
开源一周狂揽 35K 标星！Karpathy 开源 autoresearch：630 行代码让 AI 自动“炼丹”！
前OpenAI、特斯拉前AI总监Andrej Karpathy发布新项目autoresearch，一周揽35.6k Star。它是极简版LLM训练环境，630行代码让AI自动做研究，人类通过Prompt指导，AI自行实验。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
代码采纳率如何提升至50%？AI 自动编写单元测试实践总结
文章围绕借助Aone Copilot Agent提升AI代码采纳率至50%展开，介绍项目背景、实践方案、执行过程等，阐述Prompt规则生成方法，分析核心价值与效果，总结经验教训，展望未来技术演进和团队能力建设方向。
AI 编程如何在团队中真正落地？
文章围绕AI编程工具Cursor在团队落地展开。分析推广难题，如使用意愿和能力问题，提出研发流程规范、结构化语言表达和应用级特化解决方案，还给出通用Rules和prompt示例，助力Cursor高效落地。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
故事式
作者李继刚在好友丁锐启发下尝试「故事式」Prompt，即塑造含「欲望」与「阻力」的动力场让模型生成回复，还给出如「字典疯子」「探索者」等多个故事式Prompt示例供读者体验。
Prompt | 人生金句炼金术师
作者分享“人生金句炼金术师”提示词，用其将平凡瞬间转化为哲理金句，如“想减肥没开始”“等红绿灯”等场景。给出不同风格卡片提示词，实测Gemini 2.5 Pro效果更好，还介绍了动态视觉图谱提示词。
Prompt的尽头，居然是MBTI。
文章介绍了用MBTI人格优化大模型对话的技巧。论文《心理学增强AI智能体》证明给AI一个MBTI人格很有用，不同人格AI处理任务表现各异，还能组建性格互补的AI团队完成不同工作。
分享6个平时我最常用的Prompt心法。
作者作为常靠AI帮忙的普通用户，分享6个与AI对话的心法技巧。包括让AI选角色回答、回答前追问、与AI辩论、预演失败、反向推提示词和双层解释法，助大家与AI有效协作。
用中等难度prompt做高效post training
近年来，RL后训练在LLM发展中至关重要，但传统方法效率低。本文提出PCL轻量级算法，通过动态选中等难度提示提升LLM后训练效率，经多基准实验验证其优越性，也指出方法局限与未来方向。