算法论文7
研究者公开提取闭源模型思维链方法
DeepTech深科技
AI 摘要
MATS Research 等机构研究者：公开提取 Anthropic、OpenAI 等加密思维链方法，用弱模型解密，还发现公开轨迹有隐私泄露，实验为模型蒸馏争议提供线索，但非决定性证据。
阅读原文 · DeepTech深科技
OpenAI和Anthropic费尽心机加密的思维链，竟然能被轻松提取？
围绕大模型蒸馏争议已久，此前外部团队难获闭源模型完整推理。8 月 10 日研究者公开方法，可让弱模型读取旗舰模型密文并输出推理，还发现公开智能体轨迹存在隐私泄露问题，不过未为蒸馏指控提供决定性证据。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
8
欧洲论文揭三大巨头 AI 安全漏洞
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
AI科技大本营
新闻资讯7
OpenAI：Astra、GPT - 6训练因安全暂停
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
AI寒武纪
算法论文7
研究揭开大模型加密推理块漏洞及风格影响
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
深度学习自然语言处理
推荐文章7
MiniMax：Agent 构建训练 - 服务闭环
本文介绍了 MiniMax 在 Agent 层面的实践。从内部飞书 bot 起步，发展成桌面应用 MiniMax Code，形成训练 - 服务闭环。还阐述 Agent 对模型优化迭代的作用、自研 Agent 优势，指出 AGI 是闭环递归自我改进系统。
Founder Park