来自 Anthropic 的有趣研究：将 MLP 神经元重新定义为比通常认为的更强的可解释性基础

研究人员在 13 个开源 transcoder 上测量发现，模型深层中许多活跃的 transcoder 特征几乎就是单个 MLP 神经元的复制。只有这些与神经元对齐的特征与底层 MLP 有稳定关联，其他特征在不同训练轮次间会漂移。如果结论成立，意味着可解释性研究应从 MLP 神经元出发，而非默认它们因多义性太强而无法解释；同时，非神经元类的 transcoder 特征在用于解释模型行为前需要更严格的验证。

• Elvis Saravia2026-10-20 18:59