精选理由
做模型微调的开发者如果受限于LoRA的低秩瓶颈，SMoA提供了一种在更少参数下覆盖更广频谱方向的新思路，值得在资源敏感任务中尝试。
SMoA（频谱调制适配器）是一种新的参数高效微调方法，旨在解决LoRA在低秩设置下表达能力受限的问题。理论表明，LoRA微调仅能捕获预训练权重矩阵的前r个奇异值，而增大秩虽能提升性能但会增加计算成本。SMoA通过将层划分为多个对齐的频谱块，并在每个对角块内应用Hadamard调制的低秩分支，从而在更小的参数预算下覆盖更广的预训练频谱方向。实验结果显示，在低预算设置下，SMoA在多项任务上的平均性能优于LoRA及其他同类基线方法。该方法为资源受限场景下的模型微调提供了更高效的解决方案。
AI 翻译 · 中文
SMoA（频谱调制适配器）是一种新的参数高效微调方法，旨在解决LoRA在低秩设置下表达能力受限的问题。理论表明，LoRA微调仅能捕获预训练权重矩阵的前r个奇异值，而增大秩虽能提升性能但会增加计算成本。SMoA通过将层划分为多个对齐的频谱块，并在每个对角块内应用Hadamard调制的低秩分支，从而在更小的参数预算下覆盖更广的预训练频谱方向。实验结果显示，在低预算设置下，SMoA在多项任务上的平均性能优于LoRA及其他同类基线方法。该方法为资源受限场景下的模型微调提供了更高效的解决方案。
As the number of model parameters increases, parameter-efficient fine-tuning (PEFT) has become the go-to choice for tailoring pre-trained large language models. Low-rank Adaptation (LoRA) uses a low-rank update method to…