#Manifold-Constrained Hyper-Connections

共 1 条 · 7 天 0 条 · 30 天 0 条

LoRA 1 OLMo-2 1 PEFT 1 参数高效微调 1

信息流里打上「Manifold-Constrained Hyper-Connections」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月21日

Manifold-Constrained Hyper-Connections：面向参数高效微调的残差路由新方法

这篇论文把残差连接本身做成了PEFT方法，跟LoRA搭配效果更好，如果你在做模型微调可以看看这个新思路。

#Manifold-Constrained Hyper-Connections #LoRA #OLMo-2 #PEFT

arXiv cs.LG@Valentijn Oldenburg 等 7 人原文