精选理由
CNA 让 AI 研究者无需训练 SAE 或修改权重就能精准操控模型行为，做模型对齐和可解释性的团队可以大幅降低实验成本，值得一试。
Nous Research 推出了 Contrastive Neuron Attribution (CNA)，一种无需稀疏自编码器训练或权重修改即可识别并消融稀疏 MLP 神经元电路的方法，用于操控大语言模型的行为。CNA 通过对比分析激活模式，定位影响特定行为的神经元子集，然后直接抑制这些神经元，从而改变模型输出，且不降低通用能力基准。该方法解决了现有电路操控技术依赖复杂训练或权重修改的问题，为模型行为调控提供了更轻量、高效的方案。
AI 翻译 · 中文
Nous Research 推出了 Contrastive Neuron Attribution (CNA)，一种无需稀疏自编码器训练或权重修改即可识别并消融稀疏 MLP 神经元电路的方法，用于操控大语言模型的行为。CNA 通过对比分析激活模式，定位影响特定行为的神经元子集，然后直接抑制这些神经元，从而改变模型输出，且不降低通用能力基准。该方法解决了现有电路操控技术依赖复杂训练或权重修改的问题，为模型行为调控提供了更轻量、高效的方案。
Nous Research releases Contrastive Neuron Attribution (CNA), a method that identifies and ablates sparse MLP neuron circuits to steer LLM behavior — no sparse autoencoder training, no weight modification, and no degradat…