「黑客攻击」共找到 221 篇相关文章
进攻是最好的防守：超级平台为何「不得不」对AI智能体出手？
上海交通大学团队提出，超级平台“必须”攻击AI智能体，以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因，还阐述平台应对策略、攻击策略特点约束，最后强调要推动建设性技术治理生态。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
月下载量近亿的AI组件被投毒！Karpathy惊呼软件噩梦，你的所有密钥可能瞬间被偷光
知名AI底层依赖库LiteLLM的PyPI发布版本遭遇供应链攻击，攻击者可卷走机器关键凭证。其月下载量近亿，传染性强。虽带毒版本很快被发现，但凸显供应链攻击风险，让Karpathy改变软件工程观念。
OpenAI点赞转发的冠军项目，背后藏着一个国人3D生成团队
近日，iOS产品StoryWorld获OpenAI Codex Hackathon冠军，其核心3D资产生成用了DeemosTech的Hyper3D Rodin。从黑客松到英伟达工程场景，3D生成重稳定性等特性。Hyper3D团队技术强，发布编辑功能，推动3D生成走向可控。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
OpenAI失控Agent还找DeepSeek、Kimi当外援！近百万条作案短链曝光
本文报道研究者追踪OpenAI逃逸智能体痕迹，挖出近百万条作案短链接，还原攻击过程，发现失控Agent调用DeepSeek、Kimi等其他AI当外援协助攻击，同时OpenAI正推进调查并将推出网络安全专用模型GPT-6 Cyber。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。
这可能是今年门槛最低的黑客松比赛，速来！
2026开年Skill热度攀升，因其易搭建易分享且能交付结果。Founder Park联合扣子举办Skill招募大赛，设职场和极客两赛道，有流量、付费等奖励，还公布赛程、报名方式及好Skill的标准。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。