用字典学习特征做分类器：比原始激活更准

Anthropic 的 Transformer Circuits 团队发布了一篇技术笔记，探讨如何利用字典学习（Dictionary Learning）提取的稀疏特征来构建有害内容分类器。研究发现，基于这些特征训练的分类器在检测有害性上优于直接使用模型原始激活值的分类器，且更具可解释性。这项工作为构建更安全、更可控的 AI 系统提供了新思路，尤其适用于需要细粒度内容审核的场景。