Rank（秩）在线性代数中指矩阵中线性无关的行或列的数量，在机器学习领域则是衡量模型参数矩阵内在复杂度的核心指标。近年来，围绕“低秩”这一性质，参数高效微调（PEFT）方法成为大模型研究的热点：研究者发现大模型微调前后的参数变化往往具有低秩结构，因此只需训练少量低秩矩阵即可逼近全参数微调的效果，这也推动了 LoRA 及其变体持续演进。
Rank 研究的近期进展
当前焦点与观察点
低秩方法的研究重心正在发生三方面转移。其一是从“经验有效”走向“理论可解释”，近期关于瓶颈秩与最优解秩关系的分析试图回答“秩为何可以这么低”这一根本问题。其二是应用范围扩大，从最初的监督微调延伸到强化学习后训练、模型合并与架构搜索等环节，LoRA 系方法已成为工程实践中的默认选项之一。其三是秩的分配策略更精细，谱能量、任务难度等信号被用于决定各模块的秩预算，替代一刀切的设置。
值得关注的观察点包括：低秩约束在长上下文、多任务场景下是否会成为性能瓶颈；自适应秩分配带来的额外开销是否值得；以及在显存受限的边缘部署中，LoRA、LoGRA 等方法的性价比如何随模型规模变化。整体来看，Rank 已从纯数学概念演变为连接模型压缩、训练效率与理论分析的关键枢纽，相关研究的工程价值仍在持续释放。