Anthropic: Transformer Circuits（资讯）
30
推荐理由：做 AI 安全和对齐的团队可以关注——字典学习特征让分类器更准更可解释，比直接用原始激活值靠谱，值得在内容审核场景里试试。
全部 AI 动态
AI 相关资讯全量信息流
5月13日
21:35
Anthropic 的 Transformer Circuits 团队发布了一篇技术笔记，探讨如何利用字典学习（Dictionary Learning）提取的稀疏特征来构建有害内容分类器。研究发现，基于这些特征训练的分类器在检测有害性上优于直接使用模型原始激活值的分类器，且更具可解释性。这项工作为构建更安全、更可控的 AI 系统提供了新思路，尤其适用于需要细粒度内容审核的场景。