「黑客攻击」共找到 219 篇相关文章
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
连Karpathy都怕了！9千万级AI包被投毒，竟靠黑客写出bug救命
3月24日，AI应用核心工具LiteLLM更新版本含恶意代码，可窃取开发者核心信息。因攻击者代码有bug致机器崩溃才暴露。这引发AI基础设施信任危机，Karpathy称要减少依赖。
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
一个指令误导智能模型！北航等首创3D语义攻击框架，成功率暴涨119%
北京航空航天大学与中关村实验室团队提出全新框架InSUR，入选NeurIPS 2025。该框架可基于指令生成对抗样本，首次实现3D SemanticAE生成，从采样、建模、评估三方面突破，实验验证其有效性与可扩展性。
数学题干带猫AI就不会了！错误率翻300%，DeepSeek、o1都不能幸免
研究发现，在数学题后加如“猫一生绝大多数时间都在睡觉”这类话术，会让大模型答错概率翻3倍，DeepSeek - R1、OpenAI o1等推理模型中招。研究探索攻击方式，总结出三种攻击模式。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
TPAMI 2025 | AI对抗迁移性评估的「拨乱反正」：那些年效果虚高的攻防算法们
本文第一作者赵正宇来自西安交大，针对现有迁移攻击方法缺乏系统公平对比分析的问题，将其分为五大类，在 ImageNet 上对 23 种攻击与 11 种防御方法开展评估，证实评估缺陷会误导结论，解决后有新见解。
寻找最会养虾的你丨环球黑客松·上海站「OPC 极限挑战赛」等你来！
3月27 - 28日上海全球开发者先锋大会现场举办「OPC极限挑战赛」，要验证一人加AI能否从零跑出真实业务，需回答OPC养龙虾赚钱、环节跑通及项目存活进化等问题，欢迎超级个体报名。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 将旗舰级开源项目转为闭源，因其无力应对 AI 攻击开源代码的风险。Cal 发展成功，此前坚持开源五年，如今因 AI 闭源引发开发者质疑，还推出开源版 Cal.diy。