「Prompt漏洞」共找到 352 篇相关文章
【翻译】在 Codex 中使用 Goals：长时间工作的持久目标
文章介绍 Codex 中的 Goals，它是持久目标，能让线程跨多轮对话朝明确结果推进。阐述了 Goals 与普通 prompts 的区别、编写方法、活跃后的变化、设计方式及适用场景等，还通过案例展示其在研究任务中的应用。
初探：从0开始的AI-Agent开发踩坑实录
作者分享从0开始开发AI Agent实现开源应用Helm Chart自动化生成的历程。介绍了定义角色、明确AI能力边界等开发要点，尝试三种Agent范式，还提及实践痛点如AI可观测性不足、Prompt工程困境等。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。
新Vidu Q3参考生，这是冲着「剧」来的！万物皆可参考：特效音效场景都备好了
生数科技Vidu Q3发布参考生视频，为剧而生，万物可参。它能凭几张图和Prompt生成影视级特效、音效和场景。实测显示其特效、音效、场景表现出色，还解决AI视频创作痛点，兼顾专业与普惠。
Claude Opus 5刚发布就被玩疯了~
Claude Opus 5刚发布，社区就玩疯了。Anthropic给它定位接近Fable 5，价格仅一半。网友让它与Fable 5、GPT 5.6等做物理场景测试，Opus 5表现不错，但也有不足。官方还给出了其Prompt指南。
分享两篇Claude Skills最新论文，有3个核心结论
文章分享两篇Claude Skills最新论文，总结出技能安全漏洞、技能数量与准确率关系等结论。还探讨单智能体技能系统能否取代多智能体，通过实验验证其效率优势，并提出解决技能选择过载的方案，也对Agent Skills做了安全分析。
烧了2000美金后，我发现Vibe Coding“已死”！
作者黄叔分享科研成果Spec Coding，称Vibe Coding已死，因其Prompt易逝、迭代混乱。Spec Coding复杂度高于提示词工程，文中给出从0到1及迭代的提示词和步骤，还提及额外好处及理念特性。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
AI数据工程师在应用中如何"返璞归真"
文章反思‘知识库+Prompt工程+工具调用’轻量级Agent构建模式局限，指出其难应对知识质量、语义理解与规模化维护挑战。提出从‘Prompt驱动’到‘上下文工程’、从‘搭积木组装’到‘全链路闭环’的范式跃迁，并介绍MktAI知识体系建设。
大模型如何赋能 Web 渗透测试？
文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。