Neuronpedia 相关 AI 资讯 · AI 热点

7月7日

23:48

23:48

Julien Chaumond@julien_c

精选72°

Anthropic 与 Neuronpedia 合作，基于 Qwen 开源模型构建了交互式模型可解释性演示。该演示展示了 Anthropic 的 jLens 方法，可直观查看神经元激活模式。用户通过 neuronpedia.org/jlens 即可在浏览器中体验。此次合作将闭源公司的可解释性技术应用到开源模型上。

AI产品 Anthropic Qwen Neuronpedia 模型可解释性开源演示

推荐理由：Anthropic 居然拿 Qwen 做了个可解释性演示，还和 Neuronpedia 搞了个在线版，你去试试看神经元怎么工作的。

12:21

12:21

AI Will@FinanceYF5

精选

Anthropic 与 Neuronpedia 合作，为开源权重模型制作了交互式演示，方便研究者直观探索模型内部机制。该演示对应一篇可解释性论文，论文域名 transformer-circuits.pub 提供了完整技术细节。用户可通过交互界面结合论文理解模型行为。

论文 Anthropic Neuronpedia 开源模型交互式演示论文

推荐理由：Anthropic 联合 Neuronpedia 搞了个开源模型的交互演示，能上手玩模型内部，配合论文看更清楚。