零阶优化相关 AI 资讯 · AI 热点

7月2日

12:13

12:13

官方账号arXiv cs.LG@Xun Dong, Yibo Xu, Naigang Wang, Xin Li, Penghang Yin, Zi Yang

ZO-Act提出一种激活感知的零阶微调方法，通过一次性计算输入激活基，将扰动限制在固定低秩子空间中，从而将有效扰动维度降低至系数矩阵大小。该方法在Llama-3-8B、OPT-13B和INT4 Llama-3-8B上实验，在语言理解、问答和常识推理任务中一致超越现有零阶微调基线。分析表明，ZO-Act通过低维系数扰动减少了方差依赖项和有限差分误差，并利用LLM激活和梯度的低秩结构控制子空间近似偏差。

AI模型 ZO-Act Llama-3 OPT-13B 微调零阶优化

推荐理由：ZO-Act用激活信息锁定关键子空间，让零阶微调更稳定，在Llama-3和OPT-13B上都比旧方法强，适合显存受限的场景。

5月28日

12:00

12:00

官方账号arXiv cs.LG@Zelin Li, Caiwen Ding

精选72°

研究发现，大语言模型的零阶（ZO）微调本质上是推理密集型负载，而非传统训练。现有实现将ZO算法运行在训练循环中，导致工作负载与运行时的不匹配。研究者通过将ZO微调的重复评分阶段部署在推理运行时（如vLLM）上，在OPT-13B模型上实现了8.13倍加速，且精度几乎无损。该方法在多个模型规模下获得2.34-7.72倍加速，并支持MeZO风格的高秩分解实验。这项工作为将轻量级适配作为推理类负载调度提供了实用路径。

论文零阶优化微调推理优化 vLLM 大语言模型

推荐理由：做LLM微调优化的团队终于可以省下GPU时间了——把ZO微调当推理跑，vLLM直接提速8倍，建议做低成本微调的人点开看看实现细节。

5月20日

10:18

10:18

官方账号arXiv cs.AI@Ziye Chen, Hongbin Lin, Chenyu Zhang, Xiangda Yan, Yongjie Yang, Yao Shu

精选

零阶优化（ZO）无需存储反向传播激活即可微调大模型，而LoRA提供紧凑的可训练适配器。但两者结合存在秩悖论：增加LoRA秩会提升适配器容量，但标准两点ZO要么扰动依赖秩的坐标数，要么在原子更新下使有限差分信号不可观测。本文证明瓶颈是测量拓扑问题，而非需要外部子空间。LoRA已分解为匹配的秩1原子，每个原子是一个完整因子坐标块。AR1-ZO通过交替秩1原子查询和拓扑感知缩放，恢复秩不变的有效信号，无需辅助基、激活钩子、曲率估计或额外前向查询。实验表明，在标准两前向查询预算下，AR1-ZO使高秩LoRA在匹配预算的ZO方法中有效。

论文零阶优化 LoRA 大模型微调拓扑感知秩1查询

推荐理由：解决了零阶优化与高秩LoRA结合时的信号坍缩问题，做大模型微调且受限于显存的开发者可以直接用AR1-ZO方法提升效果。