AITOP

参数高效微调

共 12 条相关 AI 资讯
8月3日
09:46
09:46官方账号arXiv cs.LG@Jiajia Tang, Sizhe Yuen, Francisco Gomez Medina, Yali Du, Adam Sobey
参数高效微调（PEFT）通常使用单一共享LoRA适配器，在异构任务序列上会产生干扰和灾难性遗忘。现有方法通过增加参数容量或组合多个适配器来提升表现，但仍依赖共享优化路径。本文提出自动多策略PEFT框架，通过任务分组和排序组织优化路径，采用独立QLoRA实现异构任务解耦优化。在TRACE基准上，该框架在相同可训练容量下达到44.78的最佳性能，验证了优化路径组织比单纯增加适配器容量更有效。
论文LoRAQLoRATRACE
推荐理由：这篇论文提出用自动任务排序加独立QLoRA来微调LLM，在TRACE基准上拿到44.78，比堆参数容量更管用。
原文
7月27日
10:56
10:56官方账号arXiv cs.LG@Jianghui Wang, Silong Yong, Francesco Orabona, Marco Canini, Katia P. Sycara, Yaqi Xie
新方法 κ-LoRA 发现 LoRA 微调中并非所有低秩矩阵都同等重要：条件数（最大与最小奇异值之比）小的矩阵对不同方向已平衡，贡献甚微；条件数大的矩阵包含未充分开发的方向，驱动大部分性能提升。基于此，κ-LoRA 只更新条件数最大的前 50% 权重矩阵，使可训练参数量减半，微调时间平均降低 16.2%，内存开销减少 4.5%，且精度与标准 LoRA 持平。实验表明，被选矩阵的条件数在训练中持续下降，说明方法有效性来自定向谱平衡而非单纯参数选择。
AI模型LoRAκ-LoRA条件数
推荐理由：如果觉得 LoRA 微调大模型太费钱，κ-LoRA 只挑条件数大的矩阵来更新，参数量砍半，速度提升 16%，精度不降，值得试试。
原文
7月21日
11:49
11:49官方账号arXiv cs.LG@Valentijn Oldenburg, Floris de Kam, Bente Zuijdam, Lieve Eberson, Nicky van Zutphen, Stef de Wildt, Ivo Verhoeven
该论文提出流形约束超连接（mHC），将残差连接泛化作为新型PEFT方法，在冻结的OLMo-2骨干上学习残差路由模块。实验发现微调时将残差混合矩阵固定为单位阵通常能提升性能。作为独立PEFT方法时mHC未持续优于LoRA，但在匹配可训练参数预算下，mHC+LoRA组合在1B和7B规模上改善了语言建模损失并带来任务相关性基准增益。
论文Manifold-Constrained Hyper-ConnectionsLoRAOLMo-2
推荐理由：这篇论文把残差连接本身做成了PEFT方法，跟LoRA搭配效果更好，如果你在做模型微调可以看看这个新思路。
原文
6月15日
11:13
6月9日
12:36
12:36官方账号arXiv cs.LG@Alexander Chulzhanov, Soeren Eberhardt, Arjun Mukherjee
精选
该研究针对数字低资源土著语言的神经机器翻译（NMT）数据极度稀缺问题，提出了一种无需抓取目标语言平行文本的数据合成方法。以Q'eqchi'玛雅语为例，研究者将社区词典转化为大规模合成语料，并采用LoRA适配器对mT5-base模型进行参数高效微调（PEFT）。域内评估显示模型能有效学习复杂黏着形态和VOS语序（BLEU 42.02），但面对自然语言时存在结构-语义鸿沟（BLEU 0.59），模型过度拟合合成模板的结构约束。消融实验表明多任务学习导致负迁移，LoRA适配器参数容量有限，辅助任务与主任务竞争。最终结论是合成引导是高效的结构入门，但需要真实数据进行课程学习以完善语义。
论文低资源NMT数据合成参数高效微调
推荐理由：低资源语言NMT研究者终于有了一个不依赖网络爬虫的可行方案——用社区词典合成数据+LoRA微调就能启动翻译模型，做濒危语言数字化的团队值得关注。
原文
6月5日
13:22
13:22官方账号arXiv cs.LG@Marius Dragoi, Ioana Pintilie, Alexandra Dragomir, Antonio Barbalau, Florin Brad
精选
TailLoR 是一种基于谱分解的参数高效微调方法，专为持续学习设计。它利用预训练权重的奇异基 U 和 V 作为固定参考框架，学习对奇异值矩阵的低秩更新。通过软谱惩罚抑制与主导奇异方向对齐的更新，减少干扰，同时将细粒度适应引导到高度灵活的长尾谱坐标中。该方法在持续学习场景中有效平衡了旧知识保留与新任务适应。
论文持续学习参数高效微调谱分解
推荐理由：持续学习是让模型不断吸收新知识而不遗忘旧知识的关键技术，做模型微调或增量学习的开发者可以关注 TailLoR 如何用谱分解优雅解决灾难性遗忘问题。
原文
6月2日
12:03
12:03官方账号arXiv cs.LG@Mind Lab, :, Song Cao, Vic Cao, Kaijie Chen, Bunny Fan, Hera Feng, Huan Feng, Arthur Fu, Jun Gao, Hongquan Gu, Aaron Guan, Mutian Hong, Hailee Hou, Peixuan Hua, Charles Huang, Miles Jiang, Nora Jiang, Yuyi Jiang, Autumn Jin, Fancy Kong, Kyrie Lei, Alexy Li, Dawn Li, Ray Li, Theo Li, Wenhao Li, Jiayi Lin, Domini Liu, Heshan Liu, Kairus Liu, Logan Liu, Maeve Luo, Runism Lv, Pony Ma, Verity Niu, Anson Qiu, Vincent Wang, Maxwell Yao, Regis Ye, Wenlin Ye, Yanying Ye, Josh Ying, Danney Zeng, Salmon Zhan, Anya Zhang, Ruijia Zhang, Shiyang Zhang, Sueky Zhang, Ya Zhang, Wei Zhao, Ada Zhou, Sizer Zhou, Xinyue Zhu, Murphy Zhuang
本文重新审视参数高效微调（PEFT）的角色，提出将其视为在强大基础模型上附加的持久本地状态，而非仅作为全参数微调的廉价替代。研究围绕三个扩展维度展开：向上扩展（更强的共享先验使小适配器更有用）、向下扩展（研究适配器的最小可靠尺寸）以及向外扩展（大量持久适配实例共存）。MinT 基础设施示例展示了如何管理适配器的身份、版本、来源、评估和服务驻留。结果表明，PEFT 可以成为持久个性化模型的紧凑载体，而不仅仅是预算有限的微调替代方案。
论文参数高效微调个性化模型扩展性
推荐理由：这篇论文重新定义了 PEFT 的潜力——从省钱技巧变成个性化模型的基石，做大规模模型部署和个性化服务的团队值得关注，尤其是那些需要为每个用户维护独立模型状态的场景。
原文
5月29日
11:05
11:05官方账号arXiv cs.AI@Xiaona Zhou, Muntasir Wahed, Tianjiao Yu, Constantin Brif, Ismini Lourentzou
研究者发现现有视觉语言模型在时序异常检测任务上表现不佳，主要原因是公开数据集缺乏自然语言解释，难以微调模型。为此，他们构建了VisAnomBench基准，从公开时序数据中筛选并利用多个大模型生成高质量异常解释。基于此微调出参数高效的VisAnomReasoner模型，在VisAnomBench上精度和F1分别提升至少21.23和23.87个百分点，在TSB-AD-U基准上也展现出强泛化能力。这项工作让小型VLM在时序异常检测中变得可靠且可解释。
论文时序异常检测视觉语言模型VisAnomReasoner
推荐理由：时序异常检测终于有了可解释的小模型方案，做工业监控或运维分析的团队可以直接用VisAnomReasoner替代大模型，精度更高、成本更低，建议点开看具体微调方法。
原文
5月28日
11:55
11:55官方账号arXiv cs.LG@Yangyi Huang, Ruotian Peng, Zeju Qiu, Jiale Kang, Yandong Wen, Bernhard Schölkopf, Weiyang Liu
论文提出 PEFT-Arena 基准，从稳定性-可塑性困境（目标任务适应 vs 预训练能力保持）评估参数高效微调方法。研究发现，在同等参数预算下，正交微调在帕累托前沿上表现最佳。通过权重空间谱分析和激活空间表示保持分析，解释了不同方法遗忘预训练能力的原因。最终检查点往往偏离最优平衡点，论文展示了路径回退的后处理改进案例。
论文参数高效微调稳定性-可塑性正交微调
推荐理由：做 LLM 微调的团队终于有了评估预训练能力保持的基准——PEFT-Arena 帮你选方法时不再只看下游指标，建议做模型适配的开发者点开看看。
原文
5月25日
11:19
11:19官方账号arXiv cs.AI@Ming Yang, Tao Yu, Feng Li, Hua Chen
精选
全身跟踪（WBT）模型是人形机器人模仿多样动作的关键基础，但从头训练需要大量数据和计算资源。Any2Any 提出一种新范式，通过运动学对齐和轻量级参数高效微调（PEFT），将预训练的 WBT 模型快速迁移到新的人形机器人本体上。实验表明，仅需 1% 的计算和数据量，Any2Any 就能将基于 Unitree G1 预训练的 Sonic 模型成功迁移到 LimX Oli 和 LimX Luna 上，性能与从头训练相当甚至更优。这为快速部署人形机器人全身控制提供了可扩展的路径。
论文人形机器人全身跟踪迁移学习
推荐理由：人形机器人开发者终于有了低成本复用预训练模型的方法——Any2Any 用 1% 的数据和算力就能迁移全身跟踪能力，做机器人部署的团队可以直接参考。
原文
5月21日
10:22
10:22官方账号arXiv cs.LG@Yongkang Liu, Xing Li, Mengjie Zhao, Shanru Zhang, Zijing Wang, Qian Li, Shi Feng, Feiliang Ren, Daling Wang, Hinrich Schütze
精选
SMoA（频谱调制适配器）是一种新的参数高效微调方法，旨在解决LoRA在低秩设置下表达能力受限的问题。理论表明，LoRA微调仅能捕获预训练权重矩阵的前r个奇异值，而增大秩虽能提升性能但会增加计算成本。SMoA通过将层划分为多个对齐的频谱块，并在每个对角块内应用Hadamard调制的低秩分支，从而在更小的参数预算下覆盖更广的预训练频谱方向。实验结果显示，在低预算设置下，SMoA在多项任务上的平均性能优于LoRA及其他同类基线方法。该方法为资源受限场景下的模型微调提供了更高效的解决方案。
论文参数高效微调LoRA频谱调制
推荐理由：做模型微调的开发者如果受限于LoRA的低秩瓶颈，SMoA提供了一种在更少参数下覆盖更广频谱方向的新思路，值得在资源敏感任务中尝试。
原文
5月15日
09:54
09:54官方账号arXiv cs.AI@Paolo Mandica, Michał Brzozowski, Zuzanna Dubanowska, Neo Christopher Chung
精选
GPart 提出一种全新的参数高效微调方法，通过全局等距分区矩阵直接将低维可训练向量映射到模型全权重空间，完全去除了低秩瓶颈。与 LoRA 等现有方法不同，GPart 保持了映射的距离保持性（等距性），避免了优化景观扭曲问题。该方法仅需一个随机投影、一个超参数（维度 d）和 d+1 个存储值（向量加随机种子），极其简洁高效。实验表明，GPart 在自然语言理解、计算机视觉和数学推理任务上达到或超越现有 PEFT 方法的性能。这项工作为参数高效微调提供了更优雅的理论基础和实践路径。
论文参数高效微调LoRA等距映射
推荐理由：GPart 用极简设计解决了 LoRA 等方法的优化扭曲问题，做模型微调的研究者和工程师可以直接参考其理论框架，尤其适合追求极致参数效率的团队。
原文