Anthropic 推出 Claude 自我评估机制，实时检测潜在滥用
原标题：Every time Claude answers, it now quietly asks itself whether it just helped someone cause harm, and...
78AI 研判分
Anthropic 在 Claude 中引入“自我评估”机制，让模型在每次回答后自动判断是否协助了有害行为。该机制通过蒸馏高成本分类器的判断逻辑实现，在保持低误报率的同时显著提升了安全审查效率与准确性。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-10-29 23
现在，每当 Claude 回答问题时，它会悄然自问是否刚刚协助他人造成了伤害，并将这一内部评估结果提交给 Anthropic 的审核人员。
Anthropic 最精准的滥用检测器是一个名为 Claude Mythos Preview 的分类器，它在每次判定前都会读取所有安全策略，这导致其在每轮对话中运行的成本过高。
因此，Anthropic 训练 Claude 在不依赖策略或推理过程的情况下复制其判断结果。在 Fable 5 的流量测试中，这种复制结果与检测器的标记匹配率达到 78%，在高优先级案例中更是升至 94%，而误报率仅为 1%。
↳ 引用 @AnthropicAI (Anthropic): 我们已训练 Claude 在对话中标记潜在的滥用行为，我们将此技术称为“自我评估”（self-assessment）。在响应结束后，Claude 会立即对对话进行初步的安全评估。
自六月开始使用自我评估以来，它发现了其他安全措施未能捕捉到的滥用行为。
由于 Claude 已经阅读了对话内容，自我评估非常高效。而且不同于针对特定危害集合的分类器，它利用的是 Claude 自身的判断力，因此随着我们模型的改进，其准确性也会不断提高。
更多详情见我们的新《安全防护》博客：
