Chinese content研究显示 LoRA 模型合并无需统一秩,按域选秩最多提升 1.8 个百分点
arXiv 这篇论文做了 36 个专家、6 种合并方法的大规模实验,证明不同领域的 LoRA 可以用不同秩来合并,做模型合并的值得看看.
arXiv 这篇论文做了 36 个专家、6 种合并方法的大规模实验,证明不同领域的 LoRA 可以用不同秩来合并,做模型合并的值得看看.
这篇论文用Qwen3-8B做了AppWorld上的合并vs联合训练对比,发现合并效果不输联合训练,而且解释了为什么不同合并方法结果差不多。