Nick Cammarata 新文：神经元可解释性研究曾被误读，Qwen3-32B 审计显示 90% 神经元有明确职能

Nick Cammarata 作为 2020 年 Zoom In 论文共同作者，在 Goodfire 发布的文章中称学界此前误读了多义神经元的关键证据。他对 Qwen3-32B 的初步审计显示约 90% 的神经元信号有单一主要职能，仅 2-4% 尚未理解，而他 2023 年在 OpenAI 启动的自动化研究当时只判定约 1.7% 可读。文中还引用 GPT-6 Astra 的 System Card 指出其推理比前代更难监控，并提到下一代模型可能采用更多以数字而非可读文本思考的 Loop Transformers。不过该审计基于经典 Transformer 架构测试，距离实时监控应用尚有距离。