算法论文7

上海AI实验室：工具调用泄露用户画像

钛媒体AGI2026-11-04

AI 摘要

上海AI实验室等发现，AI Agent 调用外部工具留下的痕迹会泄露隐私。攻击者看不到对话内容，推断用户画像成功率达26.25%。

工具请求参数泄露最多，只看参数成功率达27.71%

国籍和宗教推断超50%，邮箱与政府ID猜中次数为零

串联四个领域的调用记录后，推断成功率升至32.77%

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

DeepSeek等9个热门AI开源项目发布

上周 GitHub 热门开源项目集中在 AI Agent 与设计工具，包括 DeepSeek 推出的全插件式 Agent 框架、Cloudflare 的安全审计技能，以及本地运行的语音克隆工具 VoiceStudio。

本文报道百度搭子新版本升级，瞄准企业用户推出产业型AI智能体，针对企业Agent落地的四大痛点给出解决方案，分享多行业落地案例，探讨AI Agent进入产业核心业务的发展路径。

本文报道Meta原计划大规模裁员用AI替代人类员工，最终AI未达预期，紧急叫停第二轮裁员，同时微软等大厂也发现AI引入效果不及预期，引发业界讨论。

来自UCSD、字节跳动、CMU的研究团队提出RSIGame框架，解决大模型一次性生成游戏质量不足的痛点，通过双层闭环实现AI自主迭代改进游戏，还能将开发经验用于训练模型，最终27B微调模型搭配RSIGame的生成质量超过GPT-5.5一次性生成结果。