Goodfire 提出神经网络洁净论，递归泛化重塑可解释性

Goodfire 研究员 Nick Cammarata 近日提出颠覆性观点：神经网络内部机制本质上是“洁净”且可读的。这一理论挑战了传统认知中认为多义性和叠加态是阻碍模型理解的噪声的观点，指出这些现象实为一种名为“递归泛化”的模式。这意味着研究者无需先进行复杂的特征解耦，即可直接分析神经元与电路，大幅降低了机制可解释性的门槛。

多方信源交叉验证显示，该理论通过智能体（Agent）分析有效拆解了导致模型难以理解的多义性难题。例如，InceptionV1 中著名的“猫脸/车头”神经元被重新解读为对特定几何特征（如 V 形）的响应，而非任意概念的打包。这种视角的转变表明，此前被视为容量不足导致的混淆，实则是对简单特征的误读，从而证实了网络结构的内在有序性。

这一突破对 AI 安全与对齐领域具有深远影响。若“洁净”假设成立，自动化可解释性工具可能在数月内完成过去人类需数年才能完成的图像模型分析工作。这不仅加速了对模型行为的理解，也为开发更透明的自动化对齐工具提供了新的技术路径，使机器自主解析内部机制成为可能。