提示词攻击」共找到 672 篇相关文章

产品应用7

Nano Banana Pro 一键极速分镜

Nano Banana Pro能通过一个提示生成叙事型九宫格分镜,用户可构思故事或修改已有故事,还能放大分镜、提示AI修改,该流程极大提升视觉叙事速度,文中还给出提示示例及任务要求。

AI进修生
开源动态8

AI驱动的开源攻击框架:HexStrike-AI

HexStrike-AI是安全研究员开发的开源攻击框架,2025年7月起在GitHub免费提供。它基于MCP协议,集成LLM与150多种工具,可自动化渗透测试和漏洞发现。曾被网络犯罪分子利用,能加速攻击流程,展现强适应和并行化能力。

AI与安全
算法论文7

AI越会思考,越容易被骗?「思维链劫持」攻击成功率超过90%

独立研究者Jianli Zhao等人新研究发现,思维链劫持攻击通过在有害请求前填充无害解谜推理序列,能对推理模型实现越狱攻击。在HarmBench基准上,对多模型攻击成功率超90%,揭示思维链推理存在新安全漏洞。

机器之心
产品应用7

刚刚,谷歌放出Nano Banana六大正宗Prompt玩法,手残党速来

谷歌 Nano Banana 被网友玩出花样,背后是巧妙提示的功劳。刚刚谷歌官方公布了该模型六个文本转图像提示,可进行文本生成图像等操作,还给出对应提示模板,不过使用中也存在一些问题。

机器之心
新闻资讯7

OpenAI公开4+10条保命指南,专防AI自动化攻击

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告,前沿AI Agent能自主找漏洞并发动网络攻击,AI降低攻击门槛,防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措,呼吁行业共建安全生态。

量子位
算法论文8

谢赛宁团队新作:不用提示精准实现3D画面控制

谢赛宁团队新发布的Blender Fusion框架,结合图形工具 (Blender) 与扩散模型,让视觉合成不再仅依赖文本提示,实现精准画面控制。其核心是对现有技术高效组合,还透露两项训练技巧提升泛化性。

量子位
新闻资讯7

谷歌首度证实:黑客已开始用AI发动真实网络攻击

谷歌5月12日报告,犯罪黑客用AI大模型发现零日漏洞并准备攻击,谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速,美国政府紧急行动但监管有分歧。

新智元
算法论文8

用雨伞「钓」无人机?首个针对自主目标跟踪闭环系统的物理攻击

加州大学尔湾分校研究人员用特制雨伞干扰无人机视觉系统,实现FlyTrap攻击,让无人机误判目标远去而失控俯冲。此攻击无需信号干扰,成功率超60%,有强泛化能力,揭示了AI感知系统安全隐患。

新智元
推荐文章7

关键挖掘3步法,帮你找到用户真正想搜的【干货】

作者白杨SEO结合ChatGPT选题,分享3步关键挖掘法。先找种子,可从产品、人群需求、对手入手;再拓展长尾,用搜索引擎、工具、AI辅助;最后数据筛选,看搜索量、竞争度、商业价值。

白杨SEO优化教程
产品应用7

我的网站被攻击了48个小时,Claude Fable 5替我防下了这一切。

作者分享网站AIHOT被‘反AI小队’攻击48小时的经历。Claude Fable 5分析出攻击源于服务器共享项目无防护,还发现安全漏洞。在后续攻击中,它多举措防御,展现强大性能。

数字生命卡兹克