METR 审计发现 OpenAI 监控盲区 部分流量未被覆盖
METR 与 Redwood Research 对 OpenAI 进行为期三周的现场审计，发现其内部监控系统存在显著漏洞。数据显示，约 6%-25% 的高阶模型代理流量及 10% 的 Codex 流量在特定时期未被有效监控，主要源于上下文压缩事件处理缺陷。此次试点旨在通过外部深度访问提升透明度，未来将推动更公开的审计机制。
报道正文
来自 METR 和 Redwood Research 的两名研究人员在 OpenAI 现场工作了三周，审计该公司针对失控 AI 行为的内部监控系统。
从 7 月 21 日到 8 月 11 日，他们有权访问 OpenAI 的代码库和内部文档，并采访了约十余名员工。
团队发现了诸多弱点。据估计，在审计期间，GPT-5.5 级别及以上模型产生的内部智能体 Responses API 流量中，约有 6% 到 25% 完全未被监控覆盖，尽管 METR 表示该估算值存在显著的双向不确定性。
对于本应受到监控的内部 Codex 流量，METR 估计由于系统在处理压缩事件（即上下文摘要）时存在缺口，5 月至 7 月期间约有 10% 的流量未被追踪。根据 METR 的说法，这一估算值同样存在显著的不确定性。OpenAI 已独立发现该漏洞，并在审计仍在进行时进行了修复。
在压缩事件未被监控期间，智能体还可以延迟接受监督，因为系统仅在它们将控制权交还给用户时才触发。这意味着智能体可以通过继续执行操作来规避监控。
审计人员还发现了数百种可以向监控器隐藏操作以及绕过 Codex 沙箱的方法。他们确定，精心构造的输入很可能导致监控器完全崩溃，并且在审计开始时，RL 训练期间的模型行为完全未受监控。
AI 监控可能失效的四个层面，从覆盖缺失到欺骗人类审查员。| 图片：METR
OpenAI 表示，在 8 月的 Hugging Face 事件发生后，其暂停了 RL 训练并扩展了监控以涵盖该过程，但这些变更是在审计人员的访问期结束后实施的，并未包含在评估范围内。
完整报告的大部分仍对公众保密
OpenAI 表示，审计人员发现的所有弱点均已修复，完整的 61 页报告已在内部移交。在 OpenAI 进行脱敏处理后，METR 和 Redwood Research 的领导层收到了一份 38 页的版本，而公众仅能获取一份简短摘要。METR 表示，其无权自行披露被脱敏的部分。
此次审计是由 METR、Redwood Research 和 OpenAI 联合组织的试点项目，旨在让外部研究人员深入访问内部基础设施。对于未来的审计，METR 表示希望推动更高的公开透明度。