「Prompt漏洞」共找到 359 篇相关文章
13 vs 3，国产安全AI悄悄完成了对Claude的超越
Anthropic官方披露Claude Code Security定位3个典型0day漏洞，而安恒信息旗下恒脑安全智能体100%复现这3个漏洞，还额外挖出10个全新0day漏洞，展现出强大的AI自主发现能力。
从 Prompt 到 Context：基于 1400+ 论文的 Context Engineering 系统综述
本文围绕Context Engineering展开，介绍其定义、与Prompt Engineering区别，从LLM OS视角说明其重要性，指出context处理不当的问题，对其分类及处理管理过程进行探讨，还提及面向LLM Context开发的变化。
超越 Prompt 和 RAG，「上下文工程」成了 Agent 核心胜负手
本文称「上下文工程」成 Agent 核心胜负手，它指在正确时间为 Agent 提供正确信息，超越 Prompt 和 RAG。文章归纳五大策略，如转移、压缩等，并结合 *The Bitter Lesson* 启示，探讨构建面向未来的 AI Agent。
英伟达GPU被曝严重漏洞，致模型准确率暴跌99.9%
英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。
停止迷信“超级Prompt”：要想AI不犯错，你得专门雇人“怼”它
这篇来自Isotopes AI的论文指出，在生成式AI落地中，迷信‘超级Prompt’不可取。对于高风险场景，单体LLM有局限，论文构建‘AI Office’架构，引入‘对手团队’概念，实验使准确率从60%提升到92.1%，但也有成本和局限。
提示工程实战指南：从Zero-Shot到Graph Prompting，7大核心技术全解析
随着大型语言模型发展，提示工程成关键技能。文章介绍零样本提示、少样本提示等七种提示优化模式，分析适用场景、优缺点，还给出示例，最后总结各技术适用场景及最佳实践。
Anthropic神话模型发布，但不让你用
Anthropic发布神话模型Claude Mythos Preview却不开放使用，发起玻璃翼计划联合科技巨头用该模型修复全球软件漏洞。此模型能自主发现众多零日漏洞，合作伙伴应用后强调跨行业协作应对网络安全挑战。
OpenAI 又发布了一个新的AI Agent~
OpenAI发布新AI Agent Aardvark用于找代码漏洞，流程包括监控Git提交等，测试能发现92%已知漏洞。还公布AI浏览器Altas技术架构，采用进程隔离和IPC通信，启动快，但维护成本高。
OpenAI首个GPT-5找Bug智能体：全自动读代码找漏洞写修复
OpenAI发布由GPT - 5驱动的白帽Agent——Aardvark，能在大规模代码库自动发现并修复安全漏洞。它不依赖传统技术，工作流程清晰，已开启内测。10月多家科技巨头也布局Agentic AI + 代码安全。
库克虎口夺食：马斯克盯上的北大校友AI公司被苹果抢走
苹果和马斯克旗下公司争抢Prompt AI，苹果与该公司进入后期谈判，欲买走核心团队和技术资产。Prompt AI是2023年成立的CV初创公司，旗舰产品Seemour用于提升家用摄像头智能感知能力。