「风险规避」共找到 498 篇相关文章
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
突发：Claude引入强实名制验证！必须真人手持证件自拍，否则直接封号！
Anthropic宣布在Claude平台推出身份验证功能，部分用户访问特定功能或触发风控时需强制验证，要手持证件自拍。这一举措让中国用户账号风险大增，还可能冲击相关生态链，用户或转向ChatGPT。
上门安装OpenClaw年入百万，但装完才是噩梦！
硅谷小伙Michael上门安装开源软件OpenClaw年入百万，国内也有不少人靠此赚钱。但OpenClaw不包含语言模型，运行需接入外部模型付费，还有心跳机制烧钱，且存在隐私安全风险。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
ChatGPT智能体正式发布，多个创业赛道昨夜无眠
OpenAI正式发布ChatGPT Agent，将思考与执行能力统一，可接管电脑，能处理工作和生活多种事务。它优化后能力达SOTA，但也有风险。这或重塑互联网，让Agent创业者重新审视竞争力。
良心老黄不搞硅谷资本家那套！Groq人均套现500万美元
英伟达200亿美元收购「TPU之父」创业公司Groq，老黄给股东分红，90%团队被打包带走，人均到手500万美元。收购规避反垄断审查，还解锁新方案LPU，有望打造全栈方案。
美国州政府生成式AI应用报告
今年2月，美国阿拉巴马州州长签署行政命令推动生成式AI在州政府大面积应用，并发布深度应用报告。报告涵盖应用现状、伦理风险与策略、数据管理、政策治理等方面，为生成式AI在政府应用提供指引。
MongoBleed 漏洞允许攻击者从 MongoDB 的堆内存中读取数据
MongoDB 修补 CVE - 2025 - 14847（MongoBleed）漏洞，该漏洞 CVSS 得分 8.7，可被未认证攻击者远程利用致敏感数据外泄。此漏洞由 zlib 压缩网络流量处理不当触发，影响 2017 年后版本，部分云环境和服务器有风险。
首个GUI多模态大模型智能体可信评测框架+基准：MLA-Trust
MLA-Trust 是首个针对 GUI 环境下多模态大模型智能体的可信度评测框架，构建了涵盖四核心维度的评估体系，对 13 个模型深度评估，揭示可信度风险，还提供评估工具箱，推动其可靠部署。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。