「Prompt漏洞」共找到 351 篇相关文章
黄仁勋：Prompt正在过时，Loop才是新范式
黄仁勋称Prompt正在过时，Loop才是新范式。Loop指设计系统让AI自动下指令、验收，不合格重来。Claude Code和OpenAI Codex已围绕Loop落地产品，还给出了实操指南及发展历程。
含全文！OpenAI发布GPT-5官方Prompt指南
OpenAI 发布《GPT-5 prompting guide》，介绍新模型变化及使用方法。新增 `reasoning_effort` 和 `verbosity` 参数，还有 Responses API。Cursor 分享实战心得，同时提及控制 Agent 积极性、解决指令冲突等内容。
别听模型厂商的，Prompt 不是功能，是 bug
风险投资Conviction创始人Sarah Guo分享2025年AI创业观察，指出从用户体验看，prompt是缺陷非功能；传统低技术行业正快速拥抱AI；还分析了AI能力进展、应用案例及投资机会等。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
从Prompt到Context：为什么Think Tool是形式化的必然？
文章从编译原理视角，为AI工程实践提供理论根基。分析了Prompt和Context Engineering的形式化程度，介绍Anthropic的Think Tool，指出其优势及对CoT的超越，还提及未来需为Agent System发展全面形式化理论。
龙虾爆出漏洞，斯坦福 OpenJarvis 重新定义本地 AI Agent，附实测
OpenClaw开源项目虽火但漏洞多，安全堪忧。斯坦福发布本地优先的个人AI Agent框架OpenJarvis，其架构模块化，数据本地处理更安全，安装简单，还能让Claude Code部署，值得关注。
两周干成一天！毕马威用100页Prompt落地企业Agent
毕马威打造税务AI助手TaxBot，将两周的专业咨询工作缩至一天，效率提升超10倍。其构建KPMG Workbench平台，集成多模型，用100页Prompt指导学习，未来或采用Agent Runtime服务。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
Codex自改进Prompt：让AI自己把重复工作变成自动化
开发者Vaibhav更新的Codex自改进Prompt引发AI开发者群体讨论，被OpenAI联合创始人转发。完整版核心逻辑可拆解为8步，加了严格跳过规则。实测有反馈，也有优化建议和现存问题。
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。