Chinese contentDECODE:诊断 LLM 自动可解释性流程中的失效问题
现在不少可解释性管线是 LLM 自己解释自己,没人盯很容易翻车。DECODE 用解释间共识加主动播种把人拉回审查环节,还在 16384 个 SAE 特征上跑通了案例。做机制可解释性、SAE 特征分析的团队可以直接参考它的三阶段诊断流程。
现在不少可解释性管线是 LLM 自己解释自己,没人盯很容易翻车。DECODE 用解释间共识加主动播种把人拉回审查环节,还在 16384 个 SAE 特征上跑通了案例。做机制可解释性、SAE 特征分析的团队可以直接参考它的三阶段诊断流程。