Chinese content用 SAE 揭示 LLM 内部如何编码语法单复数
想在 Pythia-70M 里定位出控制 are/is 输出的具体特征，删掉就变单数，Gemma-2-2b 和 Llama-3.1-8b 上也复现了。
#Pythia-70M
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "Pythia-70M", newest first.
Nov 6
想在 Pythia-70M 里定位出控制 are/is 输出的具体特征，删掉就变单数，Gemma-2-2b 和 Llama-3.1-8b 上也复现了。