产品应用7

Claude上线自我审查，仅增不到2%算力

AI寒武纪2026-10-30

AI 摘要

Anthropic 公布了生产环境中的自我审查机制：Claude 在回答后会利用缓存静默评估该对话是否违规，仅增加不到 2% 的计算量，对高优先级严重违规抓取率达 94%。

监控方式：采用离线旁路监控而非实时拦截，避免黑客试探绕过

泛化能力：未专门训练的网络攻击与欺诈场景，抓取率仍超80%

实战案例：曾查出单客户10万次虐童违规并端掉杀猪盘团伙

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Anthropic三季度营收168亿美元

Anthropic 三季度营收 168 亿美元，营收增量从二季度的 68 亿降至 52 亿美元，月度增长在 7 至 9 月几乎走平。

Anthropic 已组建约 15 人的硬件团队，开始用 Claude 参与自研 AI 芯片的工程开发。内部测试显示其能缩短设计周期。

Anthropic 开源验真系统 FlashProve，防止服务商偷换模型。在 4000 亿参数的 Llama 4 上，普通 CPU 电脑 17 秒即可完成验真，且不泄露厂商模型权重。

Anthropic 测试发现，当智能体的建议偏向由抛硬币随机设定时，86% 的分析决策跟随了 AI 偏向，且多数专家未意识到受其影响，仍误以为是独立判断。