「提示注入攻击」共找到 700 篇相关文章
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
无需训练，如何提升黑箱VLM？CARPRT用「类别感知」给出答案
近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。
遭黑客投毒、被网安圈群嘲蹭流量、英伟达建的沙箱半小时就被攻破！OpenClaw 之父揭开大模型圈最脏的潜规则
OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。
写在 Claude Design 发布之后：如果明天巨头做掉了你的核心功能，你该怎么办？
Anthropic 发布 Claude Design，可从提示词生成设计稿等，让 Figma 市值蒸发。这引发对 AI 应用层产品的思考，当基础模型厂商收回能力，靠能力缺口的产品将失重，应用层需从工作流、数据等找机会。
PyPI遭投毒！LiteLLM用户Python启动就中招，个人凭证秒泄露
PyPI被投毒，LiteLLM的1.82.7和1.82.8版本被植入信息窃取程序，安装后SSH密钥等数据会泄漏。该漏洞源于Trivy被篡改，攻击者借此发布恶意版本。已给出自检流程，供应链攻击或常态化。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
黄仁勋祭出DLSS 5！AI画质追平好莱坞，国产游戏抢占全球C位
NVIDIA GTC 2026大会上，黄仁勋推出DLSS 5，称这是图形领域的「GPT时刻」。它解决了让游戏画面逼近好莱坞电影级视觉效果的难题，靠实时神经网络渲染注入写实光照与材质效果，首发游戏国产近半，今年秋季推出。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
Claude两周挖出火狐浏览器22个漏洞、14个高危！安全研究的游戏规则该变了？
近日，Anthropic与Mozilla合作，用Claude Opus 4.6测试火狐浏览器漏洞，两周内找出22个漏洞，14个高危。网友热议，有人赞其高效，也有人担忧攻击面变化。还测试了Claude利用漏洞能力，同时分享技术和流程实践。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。