Anthropic 向 METR 开放内部权限以强化 AI 安全审计
原标题:应对 AI 风险,Anthropic 向外部 AI 监督机构开放类员工访问权限
- METR 团队已入驻 Anthropic,获得等同于内部风险评估团队的硬件、系统及工具访问权限。
- 该机制类比银行监管中的常驻审查员制度,旨在提前发现威胁公众利益的潜在风险。
- 尽管 OpenAI 和 Meta 支持此提议,但 Anthropic 是目前唯一公布具体执行细节并落地的头部实验室。
AI 聚合热点事件 · 2026/10/16
Anthropic 宣布向非营利组织 METR 开放“员工级”内部访问权限,标志着 AI 行业第三方独立审计从黑盒测试转向白盒驻场模式。METR 的六名评估员获得与 Anthropic 内部风险团队同等的硬件、办公空间及系统访问权,并拥有独立发布模型风险评估结论的权利。这一举措旨在打破传统封闭研发的黑箱状态,通过制度化手段确保前沿模型安全审查的透明度与独立性。
多方信源交叉验证显示,该合作力度远超此前 SecureBio 等机构获得的有限访问层级。尽管客户数据和核心架构细节仍受保密协议保护,但 Anthropic 放弃了对 METR 公开裁决的直接否决权,仅保留基于隐私等预设类别的有限脱敏能力。若 Anthropic 试图删减报告内容,METR 有权公开质疑其合理性。这种“不可封锁”的机制设计,实质上是落实白宫《超级智能协议》中关于外部审查承诺的关键步骤,回应了近期频发的 AI 智能体失控事件引发的公众担忧。
此举对 AI 产业格局具有深远影响,确立了高可信度的独立监督范式。通过赋予外部审计者接近内部人员的资源权限,Anthropic 试图在商业机密与公共安全之间寻找平衡点。这不仅提升了开发者群体对前沿模型安全性的信任度,也为其他 AI 巨头提供了可参考的合规模板,推动整个行业从被动应对监管转向主动构建透明化的安全治理体系。
原标题:应对 AI 风险,Anthropic 向外部 AI 监督机构开放类员工访问权限
原标题:Anthropic gives METR inside access to audit its AI models and safety practices
原标题:Anthropic is letting METR researchers look under the hood with employee-level access
原标题:Anthropic has placed 6 safety evaluators from the outside nonprofit METR inside the company, with ac...