「白盒审计」共找到 54 篇相关文章
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
Claude Science几周干完两年活，10倍科研提速真来了？
2026年6月30日，Anthropic发布Claude Science，定位面向科学家的AI工作台。它将科研拆成可审计流水线，整合工具链，自带可追溯代码，有协调与审查智能体，首落生命科学领域，与Google、OpenAI玩法不同。
AI 终于学会 「自我坦白」！Anthropic最新论文震撼来袭，「内省适配器」让黑盒模型自己说出隐藏行为
2026年4月28日，Anthropic联合剑桥大学发布论文，提出“内省适配器”技术，可让大模型用自然语言“坦白”微调中学到的行为。该技术在AuditBench基准测试等实战中表现出色，但也存在高误报率等局限。
Claude有「编制」了！Anthropic发的
6月23日，Anthropic发布Claude Tag，它是常驻Slack频道的AI团队成员，有自己的身份、账号和审计轨迹。其核心是权限架构，采用智能体身份，按用量计费，已对企业版和团队版客户开放beta。
OpenAI财报泄露！3个月能烧37亿美元，年亏损涨8倍
OpenAI最新泄露财报显示，2025年经营数据糟糕，收入130.7亿美元，支出340亿，亏损385亿，是24年近8倍。2026年Q1烧钱37亿美元。不过账上现金充裕，IPO虽受影响但不绝对。
证书透明度如何重塑互联网信任
文章探讨引入证书透明度（CT）的原因、工作原理及对数字信任的意义，揭示CA机构信任危机，介绍CT架构和实践工具，还展望其未来创新，如Static Sunlight API、委托凭据等。
大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮
北邮研究团队通过思维链审计实验，揭示大模型长链推理‘越想越错’现象背后的元认知偏差。研究基于RFC协议文档构建受控知识域，分析推理过程，发现反思会加重幻觉，且现有检测方法难以应对。
爆火的腾讯WorkBuddy发了篇论文，公开了自家底牌
腾讯 WorkBuddy 团队将内部模型选型评测等开源成 Benchmark，公开多模型 Agent 工作台选型底牌。Bench 优点是任务分布真实且开源可审计，论文介绍了核心方法论、四大赛道拆解、榜单结果，还对比了现有工作。
「All in AI」的 Shopify，分享了他们的全员 AI 落地实践，全是干货
Shopify 三个月前决定「All in AI」，副总裁 Thawar 分享公司引入 AI 的策略、提升效果与三个「反直觉」见解。如全员无差别用 AI、让 AI 展示思考过程、重视新手等，还给出多个工作流案例。
Meta 打造“组织第二大脑”智能体的设计思路
Meta介绍了一款名为"组织第二大脑"的AI智能体设计思路，旨在捕获存储领域专家专业知识，架构结合结构化可审计知识与自改进闭环，无需重训模型即可更新，最初用于合规领域，可推广至多个领域。