#参数高效微调

NoRA改进LoRA训练，不增加参数却能加速收敛、提升稳定性，适用于多种训练场景。

这篇论文提出用自动任务排序加独立QLoRA来微调LLM，在TRACE基准上拿到44.78，比堆参数容量更管用。

如果觉得 LoRA 微调大模型太费钱，κ-LoRA 只挑条件数大的矩阵来更新，参数量砍半，速度提升 16%，精度不降，值得试试。

这篇论文把残差连接本身做成了PEFT方法，跟LoRA搭配效果更好，如果你在做模型微调可以看看这个新思路。

论文教你如何让AI知识编辑更精准

这篇论文重新定义了 PEFT 的潜力——从省钱技巧变成个性化模型的基石，做大规模模型部署和个性化服务的团队值得关注，尤其是那些需要为每个用户维护独立模型状态的场景。

时序异常检测终于有了可解释的小模型方案，做工业监控或运维分析的团队可以直接用VisAnomReasoner替代大模型，精度更高、成本更低，建议点开看具体微调方法。

做 LLM 微调的团队终于有了评估预训练能力保持的基准——PEFT-Arena 帮你选方法时不再只看下游指标，建议做模型适配的开发者点开看看。