「提示词注入攻击」共找到 700 篇相关文章
【闭门会干货】字节 AI 最新动态：豆包升级+提示词神器+ SOTA 向量模型 + AI知识库 ！
作者参加字节火山方舟开发者闭门会，分享诸多AI成果。豆包模型0715版较0615版能力提升显著；PromptPilot工具让提示词优化工程化；还有Responses API、AI知识库等实用工具，且有免费计划。此外，Seed1.6 - Embedding登顶多榜单SOTA，VikingDB升级，平台有协作奖励计划。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日Anthropic报告显示，黑客利用AI Agent化能力发起复杂攻击，网络安全面临转折点。数美科技CTO梁堃指出黑灰产完成‘智能化’改造，传统防线失效，并提出防御方法。
腾讯混元图像3.0开源榜一，工业级800亿参数可商用，附提示技巧
28日，腾讯开源800亿参数的工业级原生多模态生图模型HunyuanImage 3.0，个人和月活≤1亿公司可免费用。它是全球参数量最大、性能最好的开源图像生成模型，技术强、评估表现优，官方还整理了提示词手册。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
新DeepSeek R1代码能力直逼Claude 4！附生成任何优质网站的通用提示词
作者体验DeepSeek R1超8小时，发现其文本写作问题大幅修复，思维链推理改进，代码能力提升，前端审美直逼Claude 4。文章展示其前端能力，给出写前端网页提示词及设计逻辑，还探讨了其在复杂任务中的表现。
刚刚！UCLA杨林团队证明：仅凭提示词，Gemini 2.5 Pro就可以拿到IMO2025金牌
加州大学洛杉矶分校杨林和黄溢辰撰写论文，阐述利用Gemini 2.5 Pro解决2025年IMO竞赛5道题达金牌水平。设计解题者和验证者构成的自我验证流水线，用双提示词系统迭代，还规避数据污染问题。
OpenAI总裁出钱办了个“新闻网站”：AI扮记者做采访，专门攻击AI监管派
2026年4月调查显示，Acutus“独立新闻网站”97％文章含AI内容，攻击对象为AI监管派，资金源于OpenAI总裁。其用AI生成稿件，审稿草率，还与政治公关公司客户名单重合，是OpenAI舆论运作一环。
一个省略号提示+强化学习搞定大模型“过度思考”，中科院自动化所新方法：从强制推理到自主选择
中国科学院自动化研究所联合鹏城实验室提出AutoThink方法，用省略号提示和多阶段强化学习，让推理大模型依题目难度自主切换思考模式，解决过度思考问题，在多数据集验证有效。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日，Anthropic报告称黑客利用AI Agent化能力达新高度，攻击模式转变使传统风控防线失效。数美科技CTO梁堃指出防御要下沉至‘第一性原理’，详解‘反欺诈三定律’，还提出‘不确定性标签’等方案。
12毫秒暴露自动驾驶致命缺陷，北航新研究实现场景感知的动态物理对抗攻击｜TPAMI2025
近日部分L3级自动驾驶车型获批上路，但自动驾驶感知系统存在缺陷。北航等机构提出DynamicPAE框架，实现场景感知的动态物理对抗攻击，解决多维度挑战，在多场景表现优异，被TPAMI2025录用。