「对抗攻击」共找到 215 篇相关文章
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队警告，使用Cursor搭配MCP可能致SQL数据库泄露，攻击者靠一条信息就能实现。MCP被广泛接入，其配置问题成AI应用核心安全挑战。如Supabase MCP，攻击者用留言让Cursor代理复制私密表数据。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
3 个 Multi-Agent 系统，把 GPTBots 的多智能体协作玩明白了！
文章介绍如何在GPTBots平台玩转多智能体系统，阐述多智能体协作优势、架构及三种协作模式，通过旅游规划、辩论对抗、商业决策三个案例展示协作模式应用，还给出总结与进阶建议。
谷歌与OpenAI同获ICPC 2025金牌！GPT-5满分夺冠，Gemini攻破人类队伍都没解出的难题
ICPC是计算机程序设计领域的“奥林匹克”。今年GPT - 5满分、Gemini 2.5 Deep Think解10题，达金牌水准，超越人类强队，标志AI在算法竞赛“超车”，证明其具备临场推理等能力。
爬网页要收费了！AI应用成本再度增高！Cloudflare宣布新实验
Cloudflare宣布“按爬取付费”实验，新注册服务网站默认阻止AI爬虫，爬虫需附带支付意图才能访问。此举旨在让内容创作者从AI公司获利，不过也会使AI训练成本上升，还可能引发连锁反应。
3200+ Cursor 用户被恶意“劫持”！贪图“便宜API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意npm软件包，攻击Cursor编辑器macOS版用户，下载超3200次。这些包伪装成便宜API工具窃取凭据、替换代码，还凸显供应链威胁，Socket还发现另两个恶意包。