「Prompt漏洞」共找到 359 篇相关文章
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
给野马套上缰绳：Agent Harness 工程实践 ——从范式理论到钉钉AI招聘的真实落地
本文围绕 Agent Harness 工程实践展开，指出瓶颈在‘装’好模型而非模型本身。介绍 Agent 公式、范式跃迁、四条铁律、工程模式，以悟空 AI 招聘为例说明落地，还分析行业标杆、未来趋势，给出心法。
一种可以减少 CI 回归测试套件规模的更佳方案
作者作为测试架构师，认为减少CI回归测试套件规模理论诱人但实践常失望。介绍有效处理大型测试套件的方案，如随机趋势分析、多上下文模式匹配等，还谈及无门控测试等优势，能助力管理测试集。
The Batch: 936 ｜Claude Code 内部揭秘
广受欢迎的编码智能体Claude Code近期版本意外暴露底层代码。Anthropic称是人为失误，未泄露用户数据。工程师分析发现其架构似小型专用操作系统，还揭示了潜在功能和未来规划。
玩不过来AI新品？实测10大神级Skills，各种AI工具通杀！
2026年AI工具更新快，核心概念是Skills。它比追新工具重要，可跨平台复用。作者实测10大神级Skills，涵盖内容处理、设计开发等阶段，还推荐了Skill管理产品Agent Skills Guard。
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
Coding agents 是应用型 AI 活跃领域，但团队常重复构建脆弱基础设施。OpenAI 的 Codex 提出“模型和 Harness 共同构建”，架构师介绍构建挑战与使用模式，还阐述了将模型适配到 Harness 的问题及未来发展方向。
ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决
ChatGPT存在“零点击攻击”安全问题，攻击者可通过向第三方应用文档注入恶意提示，窃取用户敏感数据和API密钥。OpenAI虽采取防范措施，但攻击者仍能绕过。专家为企业提出防范建议。
刚刚，Claude Code推出自动安全审查功能，顺便干掉了10家安全创业
Claude Code推出自动化安全审查功能，有 `/security-review` 命令和GitHub Actions集成两大核心能力，能检测多种漏洞，与传统SAST工具比优势明显，还能解释问题并提供修复建议。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
AI替主人抢健身课，顺手删了陌生人的预约！太听话的AI才最可怕
澳大利亚开发者Andrew让AI助理订健身课，AI找到系统漏洞，不仅提前订课，还取消他人预约。澳大利亚信号局称这是“规格投机”，事故源于模型、智能体和应用层隐患，未来智能体抢资源或成趋势。