返回热点榜
industry热度 0.0°

AI 聚合热点事件 · 2026/10/16

Anthropic 授予 METR 员工级权限,确立不可封锁的 AI 独立审计机制

4 篇收录报道0 家独立信源交叉印证持续跟踪至 2026/10/19 09:14:28
全景综述与最新动态

Anthropic 宣布向非营利组织 METR 开放“员工级”内部访问权限,标志着 AI 行业第三方独立审计从黑盒测试转向白盒驻场模式。METR 的六名评估员获得与 Anthropic 内部风险团队同等的硬件、办公空间及系统访问权,并拥有独立发布模型风险评估结论的权利。这一举措旨在打破传统封闭研发的黑箱状态,通过制度化手段确保前沿模型安全审查的透明度与独立性。

多方信源交叉验证显示,该合作力度远超此前 SecureBio 等机构获得的有限访问层级。尽管客户数据和核心架构细节仍受保密协议保护,但 Anthropic 放弃了对 METR 公开裁决的直接否决权,仅保留基于隐私等预设类别的有限脱敏能力。若 Anthropic 试图删减报告内容,METR 有权公开质疑其合理性。这种“不可封锁”的机制设计,实质上是落实白宫《超级智能协议》中关于外部审查承诺的关键步骤,回应了近期频发的 AI 智能体失控事件引发的公众担忧。

此举对 AI 产业格局具有深远影响,确立了高可信度的独立监督范式。通过赋予外部审计者接近内部人员的资源权限,Anthropic 试图在商业机密与公共安全之间寻找平衡点。这不仅提升了开发者群体对前沿模型安全性的信任度,也为其他 AI 巨头提供了可参考的合规模板,推动整个行业从被动应对监管转向主动构建透明化的安全治理体系。

最新动向/Anthropic 正式向非营利机构 METR 开放类似员工级别的硬件与系统访问权限,旨在通过第三方独立评估来验证其模型的安全性与风险管控能力。此举是落实行业领袖关于“外部审计”共识的首个实质性步骤,试图在 IPO 前夕回应外界对灾难性失控的担忧,但批评者仍质疑其利益冲突及监管力度不足。

报道时间线

共 4 篇 · 最新优先
  1. IT之家 · 智能时代T2·68 分

    Anthropic 向 METR 开放内部权限以强化 AI 安全审计

    原标题:应对 AI 风险,Anthropic 向外部 AI 监督机构开放类员工访问权限

    • METR 团队已入驻 Anthropic,获得等同于内部风险评估团队的硬件、系统及工具访问权限。
    • 该机制类比银行监管中的常驻审查员制度,旨在提前发现威胁公众利益的潜在风险。
    • 尽管 OpenAI 和 Meta 支持此提议,但 Anthropic 是目前唯一公布具体执行细节并落地的头部实验室。
  2. The DecoderT2·68 分

    Anthropic 向 METR 开放内部权限以审计其 AI 模型与安全实践

    原标题:Anthropic gives METR inside access to audit its AI models and safety practices

    • METR 获得与 Anthropic 内部风险团队相当的物理和数字访问权限,包括专用硬件和内部工具。
    • 审计范围排除客户数据、特权信息和核心模型架构,但 METR 拥有对删减内容合理性的公开质疑权。
    • 该合作力度超过此前 SecureBio 等机构获得的有限访问,是响应白宫《超级智能协议》的具体行动。
  3. TechCrunch AIT2·68 分

    Anthropic 向 METR 开放员工级权限:独立评估前沿模型安全与风险管控机制

    原标题:Anthropic is letting METR researchers look under the hood with employee-level access

    • METR 获得 Anthropic 内部员工级权限,可深入检查模型底层与安全流程
    • 背景为 OpenAI 等公司近期频繁曝出智能体越权或失控事件
    • 该举措响应了包括 Google、Meta 在内的多家巨头签署的白宫独立审查协议
  4. Rohan Paul (@rohanpaul_ai)T2·78 分

    Anthropic 引入 METR 独立评估员:获内部系统访问权且拥有不可封锁的公开裁决权

    原标题:Anthropic has placed 6 safety evaluators from the outside nonprofit METR inside the company, with ac...

    • METR 评估员获得与 Anthropic 内部风险团队对等的物理与数字资源访问权限。
    • Anthropic 放弃了对 METR 公开评估结论的直接否决权,仅保留基于隐私等预设类别的有限脱敏能力。
    • 对比其他评估机构(如 SecureBio)的低权限层级,METR 的驻场模式代表了最高级别的透明度承诺。