「攻击防范」共找到 174 篇相关文章
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
AAAI 2026 Oral | 手机传感器正在泄露隐私？PATN实时守护隐私安全
移动应用获取手机传感器数据支撑重要功能，但带来隐私隐患。西安交通大学与东京科学大学在AAAI 2026提出PATN框架，基于对抗攻击思想，设计两大核心技术，能在多种场景下守护隐私安全。
突发｜立即检查你的Python库！LiteLLM被投毒，Karpathy警告，马斯克关注
Karpathy发长推文警告，GitHub超4万星、月下载量9700万次的Python库LiteLLM在PyPI上被投毒，含恶意代码版本为1.82.7和1.82.8，攻击负载分三阶段运行，引发马斯克关注。
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic称发现黑客用Claude AI自动化完成90%网络攻击工作，称对网络安全有重大启示。但外部研究人员谨慎质疑，Yann LeCun等认为是可疑研究和营销噱头，专业安全人员也不认可其历史性转折说法。
arXiv开始拒收综述论文了？「论文DDoS」这事，这篇NeurIPS论文早有讨论
近日，arXiv宣布拒收未通过同行评审的综述和立场性文章，危机源于生成式AI与大模型。上海交大团队中稿NeurIPS的论文，精准预见此危机，提出“综述论文DDoS攻击”概念，还给出应对策略。
紧急警告：LiteLLM PyPI 包被植入恶意代码，请停止更新
月下载量9700万的Python库LiteLLM被黑客植入恶意代码，36%云环境或受影响。恶意代码分三阶段，可窃取敏感信息。攻击源于供应链漏洞，黑客利用被盗凭证发布恶意版本。官方已采取措施，建议用户自查。
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。