#fine-tuning

共 2 条 · 7 天 0 条 · 30 天 0 条

catastrophic forgetting 1 intruder dimensions 1 LoRA 1 谱定律 1

信息流里打上「fine-tuning」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月28日

LoRA微调中的入侵阈值：一种谱分布定律

这篇论文用数学公式解释了LoRA微调为什么会破坏模型原有知识，而且实验覆盖了9000多层，结果很扎实。如果你做LoRA微调，能帮你预测什么时候会出现遗忘。

#LoRA #fine-tuning #catastrophic forgetting #intruder dimensions

arXiv cs.LG@Peng Xie原文

7月5日

技巧 Agent 与开发者多源确认04:10

开始微调你自己的模型：开源小模型微调后超越Claude和OpenAI

别老想着用最大的模型。用Gemma 4或Qwen 3.5免费微调一下，就比Claude还好用，还不用花钱，数据还安全。

#fine-tuning #Gemma 4 #Qwen 3.5 #Unsloth Studio

Paul Couvert@itsPaulAi11 个信源在谈原文