「对抗攻击」共找到 217 篇相关文章
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
爆火「开源投资框架」，AI时代的伯克希尔
AI投资虽火但常给出正确废话，AI Berkshire爆火，兼容Claude Code和OpenAI Codex，有18个Skill。它将四位投资大师方法论抽象成流程，通过多Agent协作完成投研闭环，还有强制给结论等特点。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队警告，使用Cursor搭配MCP可能致SQL数据库泄露，攻击者靠一条信息就能实现。MCP被广泛接入，其配置问题成AI应用核心安全挑战。如Supabase MCP，攻击者用留言让Cursor代理复制私密表数据。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
3 个 Multi-Agent 系统，把 GPTBots 的多智能体协作玩明白了！
文章介绍如何在GPTBots平台玩转多智能体系统，阐述多智能体协作优势、架构及三种协作模式，通过旅游规划、辩论对抗、商业决策三个案例展示协作模式应用，还给出总结与进阶建议。
谷歌与OpenAI同获ICPC 2025金牌！GPT-5满分夺冠，Gemini攻破人类队伍都没解出的难题
ICPC是计算机程序设计领域的“奥林匹克”。今年GPT - 5满分、Gemini 2.5 Deep Think解10题，达金牌水准，超越人类强队，标志AI在算法竞赛“超车”，证明其具备临场推理等能力。