Chinese contentTopKLoRA：可解释稀疏微调方法可定位并消除模型后门
用 TopKLoRA 微调出的回路比普通 LoRA 小十倍，还能精准切除后门而不伤指令能力，做模型安全和可解释性研究的值得看代码。
#gemma-2-2b
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "gemma-2-2b", newest first.
Oct 26
用 TopKLoRA 微调出的回路比普通 LoRA 小十倍，还能精准切除后门而不伤指令能力，做模型安全和可解释性研究的值得看代码。