「隐私攻击」共找到 340 篇相关文章
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
山姆•奥特曼：ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。
The Batch: 973｜Claude 的水印如何运作
Anthropic将在2026年8月2日后发布的Claude模型全球部署肉眼不可见、机器可读的水印，用于表明文本和图像由其生成。该技术基于Google的SynthID - Text，不过此公告引发广泛争议。
美国解除Claude禁令，Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。
UI-TARS-desktop：字节跳动的原生GUI智能体，用自然语言控制电脑和浏览器
字节跳动开源的UI-TARS-desktop是原生桌面GUI智能体工具，基于UI-TARS和Seed-1.5-VL系列模型。能用自然语言操控电脑和浏览器，有本地和远程两种模式，支持多平台，还对比了同类工具。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
统计学最高荣誉回归华人！苏炜杰：AI需要一门新的数学语言
2026年，宾夕法尼亚大学苏炜杰教授获统计学界“诺贝尔奖”考普斯会长奖。他认为AI时代统计学会更重要，还提出AI需新数学语言，访谈中分享诸多对AI的思考与见解。
苹果推出 Ferret-UI Lite：一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。
推荐系统进入「双动力」时代！首篇LLM-RL协同推荐综述深度解析
强化学习是推荐系统主流建模范式，但传统 RL 推荐系统有诸多瓶颈。大语言模型崛起带来新机遇，LLM 与 RL 结合开启新范式。研究团队发布首篇相关综述，提出五大协同范式，总结评估体系，分析挑战与方向。
100 刀订阅的 Claude Cowork，被 GitHub 大神 2 天手搓出「开源升级版」！
Anthropic 的 Claude Cowork 功能强大，但昂贵门槛挡住多数人。开源社区的 Accomplish，开发者 2 天就搓出其开源平替版，还是升级版，能本地运行、支持多模型。