12:02
官方账号arXiv cs.LG@Abigail Woodring, Adrian Chan, Rana Muhammad Shahroz Khan, Sukwon Yun, Chau-Wai Wong, Tianlong Chen
推荐理由：这篇论文拆穿了为什么PortLLM的补丁隔了好几轮预训练还能用，理论部分用高维空间特性讲得特别清楚。
高维空间
共 1 条相关 AI 资讯
7月23日
12:02
论文通过Mistral、Gemma、Qwen三个基础模型的10个连续预训练步骤实验，验证了PortLLM补丁的长期时间可移植性。PortLLM是一种无需训练和数据的自适应方法，仅依赖LoRA补丁移植。理论分析表明，高维向量近正交性是时间可移植性的关键机制。研究还从损失景观几何角度比较了不同自适应选项的优劣。