「隐私攻击」共找到 340 篇相关文章
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
Claude 刚刚上线 “群聊Agent”：Karpathy盛赞的交互新范式，还是打工人的“数字监工”?
当地时间6月23日，Anthropic上线Claude Tag，可接入Slack用于多人协同办公。前OpenAI大神Karpathy盛赞其为交互新范式。不过它也引发隐私担忧，且对“套壳产品”不利，或利好开源模型。
硅谷AI战火烧进医院！终于可以告别「天书」化验单了
OpenAI和Anthropic的战火燃至医疗领域，OpenAI发布ChatGPT健康，Anthropic推出医疗健康版Claude，还打通数据壁垒，提供个性化健康解答。其还在提升模型能力，保障隐私安全，且各有应用场景。
11K+ Star！NotebookLM 最强开源平替来了，支持私有化部署！
NotebookLM好用但有数据隐私问题，GitHub上的SurfSense是其开源平替，支持私有化部署。它功能成熟，支持多种文件格式等，提供三种入门方式，虽缺PPT生成能力，但知识管理和问答功能够用。
15.1k，谷歌Notebook LM本地开源替代！
Open Notebook是开源、本地化且重隐私的Google Notebook LM替代方案。它支持超16家供应商，能整理多模态内容、生成专业播客，在多方面比Google Notebook LM更具优势。
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
上门安装OpenClaw年入百万，但装完才是噩梦！
硅谷小伙Michael上门安装开源软件OpenClaw年入百万，国内也有不少人靠此赚钱。但OpenClaw不包含语言模型，运行需接入外部模型付费，还有心跳机制烧钱，且存在隐私安全风险。
Github 1.8K star厉害！！有了这个办公AI神器，效率飙升！
Speakr是完全自托管的AI会议助手，能将音频转文字、生成摘要、进行内容问答，离线运行保障隐私和安全。它功能丰富且轻巧，支持多平台，GitHub已破1.8K star。
突发｜立即检查你的Python库！LiteLLM被投毒，Karpathy警告，马斯克关注
Karpathy发长推文警告，GitHub超4万星、月下载量9700万次的Python库LiteLLM在PyPI上被投毒，含恶意代码版本为1.82.7和1.82.8，攻击负载分三阶段运行，引发马斯克关注。