AI 模型会不会比科学家以为的更容易理解？

Goodfire 研究员 Nick Cammarata 10 月 15 日发表的论文《Neural Networks Are Already Clean》提出工作假说：研究者可能低估了从模型现有神经元中学到的东西。他以"猫脸-车头"神经元为例，认为它识别的是共享的 V 形几何特征，而非此前猜测的叠加表征；经架构调整的 InceptionV1 末级 99–100% 的神经元变得可解释，Qwen3-32B 的初步审计发现约 90% 神经元极点只有单一主功能。若假说成立，实验室可能把更多资源投向直接的神经元分析——但目前证据多来自视觉模型，语言模型的正式论文尚未发布，也尚未证明能带来可度量的安全改进。

• The Neuron2026-10-21 06:14