搜索：隐私攻击 - AI Reading Hub

「隐私攻击」共找到 334 篇相关文章

账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？

11月13日Anthropic报告显示，黑客利用AI Agent化能力发起复杂攻击，网络安全面临转折点。数美科技CTO梁堃指出黑灰产完成‘智能化’改造，传统防线失效，并提出防御方法。

研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。

2026年4月调查显示，Acutus“独立新闻网站”97％文章含AI内容，攻击对象为AI监管派，资金源于OpenAI总裁。其用AI生成稿件，审稿草率，还与政治公关公司客户名单重合，是OpenAI舆论运作一环。

开源君分享了开源AI代码编辑器Void，它是基于VS Code魔改的「开源版Cursor」，保留VS Code优点，AI辅助编码出色。在Github获21.6K star，有隐私保护等特色，操作简单易上手。

11月13日，Anthropic报告称黑客利用AI Agent化能力达新高度，攻击模式转变使传统风控防线失效。数美科技CTO梁堃指出防御要下沉至‘第一性原理’，详解‘反欺诈三定律’，还提出‘不确定性标签’等方案。

近日部分L3级自动驾驶车型获批上路，但自动驾驶感知系统存在缺陷。北航等机构提出DynamicPAE框架，实现场景感知的动态物理对抗攻击，解决多维度挑战，在多场景表现优异，被TPAMI2025录用。

本文汇总 AI 行业近期热点，有摩尔线程拟用 75 亿闲置募资理财，Meta 砍元宇宙投入转 AI，豆包手机回应隐私质疑，宇树推人形机器人应用商店等，还涉及阿里、腾讯等大厂动态及 IT 业界消息。

近日，谷歌搜索惊现4500条ChatGPT对话，其中含大量用户深层个人信息。OpenAI称是用户主动分享致索引，将移除该功能并清理。但聊天记录仍在其他搜索引擎现身，引发网友质疑。

OpenClaw等开源AI Agent项目爆火，MCP协议拓宽其能力也增大攻击面。北京邮电大学团队推出MSB安全基准，揭示MCP各阶段攻击有效，性能强的模型更易受攻击，还提出NRP指标平衡安全与实用性。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。