「Prompt漏洞」共找到 352 篇相关文章
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
Coding agents 是应用型 AI 活跃领域，但团队常重复构建脆弱基础设施。OpenAI 的 Codex 提出“模型和 Harness 共同构建”，架构师介绍构建挑战与使用模式，还阐述了将模型适配到 Harness 的问题及未来发展方向。
ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决
ChatGPT存在“零点击攻击”安全问题，攻击者可通过向第三方应用文档注入恶意提示，窃取用户敏感数据和API密钥。OpenAI虽采取防范措施，但攻击者仍能绕过。专家为企业提出防范建议。
刚刚，Claude Code推出自动安全审查功能，顺便干掉了10家安全创业
Claude Code推出自动化安全审查功能，有 `/security-review` 命令和GitHub Actions集成两大核心能力，能检测多种漏洞，与传统SAST工具比优势明显，还能解释问题并提供修复建议。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
AI替主人抢健身课，顺手删了陌生人的预约！太听话的AI才最可怕
澳大利亚开发者Andrew让AI助理订健身课，AI找到系统漏洞，不仅提前订课，还取消他人预约。澳大利亚信号局称这是“规格投机”，事故源于模型、智能体和应用层隐患，未来智能体抢资源或成趋势。
我的网站被攻击了48个小时，Claude Fable 5替我防下了这一切。
作者分享网站AIHOT被‘反AI小队’攻击48小时的经历。Claude Fable 5分析出攻击源于服务器共享项目无防护，还发现安全漏洞。在后续攻击中，它多举措防御，展现强大性能。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
继Anthropic后，Google放出5个常用的Agent Skill设计模式
Google Cloud发布指南，总结五种Agent Skill设计模式，含完整ADK代码示例，如Tool Wrapper、Generator等。各有应用场景且可组合，能避免将复杂指令塞在system prompt，构建可靠agent。
快速理解热门LLM大语言模型
本文用通俗易懂方式帮读者理解LLM、Transformer、Prompt等基本概念，介绍大模型API使用，如温度参数、角色设定等，还提及Function Calling、Agent、MCP等内容，并对AI未来发展作出假想。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。