ActionCache:无需训练的VLA模型加速方法

Training-Free Acceleration for Vision-Language-Action Models with Action Caching and Refinement

精选理由

这篇论文用缓存中间动作的思路让VLA模型推理快11到34倍,而且不用重新训练,机器人实时控制场景很实用。

AI 摘要

论文提出ActionCache,一种即插即用的外部缓存,用于加速基于流匹配的视觉-语言-动作(VLA)模型推理。ActionCache通过存储紧凑多模态键的中期动作,从相似过往上下文(跨不同回合甚至任务)中检索来预热生成,减少迭代去噪步骤。在仿真和真实环境实验中,ActionCache在低延迟下保持高任务成功率,对π₀.₅和GR00T-N1.6分别实现高达11.75倍和34.43倍的推理加速。

AI 翻译 · 中文

论文提出ActionCache,一种即插即用的外部缓存,用于加速基于流匹配的视觉-语言-动作(VLA)模型推理。ActionCache通过存储紧凑多模态键的中期动作,从相似过往上下文(跨不同回合甚至任务)中检索来预热生成,减少迭代去噪步骤。在仿真和真实环境实验中,ActionCache在低延迟下保持高任务成功率,对π₀.₅和GR00T-N1.6分别实现高达11.75倍和34.43倍的推理加速。

arXiv cs.LGVision-Language-Action (VLA) models have emerged as a promising approach for generalizable robotic manipulations. In particular, flow matching-based VLA models have shown remarkable success due to their capability to gen