产品应用7

Claude 增设后台自审：多耗 2% 算力举报

AI思想会2026-10-31

AI 摘要

Anthropic 公开「自我评估」隐藏审查机制：Claude 生成回答后顺带评估对话危险等级并上报，算力开销增加不到 2%，前台不报错，后台定期拉清单封号。

运行机制：多生成约 10 个 Token 即可完成判定

检出效果：1% 误报率下高危违规抓获率达 94%

规避条件：除付费签署企业级零数据保留协议外默认全开

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Claude Code产品负责人Cat Wu离职

Anthropic旗下Claude Code产品总负责人Cat Wu宣布离职，这是该团队10天内离开的第4位核心成员。

OpenAI 与 Claude 采取反蒸馏措施，通过隐藏思维链和限制连续追问，迫使获取数据的提问轮次大幅增加，将蒸馏方的 API 调用成本抬高 5 到 10 倍。

Google 与 Mercor 联合发布物理工程评测 PLE。测试显示 Claude 模型虽能满足 91% 的单项约束，但因各项条件关联，仅 41.3% 的方案满足全部硬性安全要求。

安全研究员因用 ChatGPT 辅助逆向自家电视被封号并扣除 500 美元，OpenAI 在 11 天后发邮件致歉并恢复账号，官方表示模型从未禁止逆向工程。