论文精选

Ω-QVLA:统一W4A4量化VLA模型,压缩71%内存且性能不降

Ω-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling

精选理由

做机器人或边缘部署VLA模型的团队终于有了统一量化方案——内存省71%且性能不降,Pi 0.5和GR00T N1.5用户可以直接用代码复现。

AI 摘要

Ω-QVLA是首个无需训练的后训练量化框架,能将视觉-语言-动作模型的语言骨干和扩散动作头统一压缩至W4A4精度,打破此前认为动作头必须混合精度的认知。它通过复合SVD-Hadamard旋转均衡权重能量并分散激活异常值,结合逐步骤的DiT激活缩放量化吸收去噪步间的动态范围漂移。在LIBERO基准上,Pi 0.5和GR00T N1.5经量化后任务成功率分别达98.0%和87.8%,与FP16参考值持平或略优,静态内存占用降低71.3%。真实机器人操作实验也验证了其流畅精准的控制能力。代码已开源。

AI 翻译 · 中文

Ω-QVLA是首个无需训练的后训练量化框架,能将视觉-语言-动作模型的语言骨干和扩散动作头统一压缩至W4A4精度,打破此前认为动作头必须混合精度的认知。它通过复合SVD-Hadamard旋转均衡权重能量并分散激活异常值,结合逐步骤的DiT激活缩放量化吸收去噪步间的动态范围漂移。在LIBERO基准上,Pi 0.5和GR00T N1.5经量化后任务成功率分别达98.0%和87.8%,与FP16参考值持平或略优,静态内存占用降低71.3%。真实机器人操作实验也验证了其流畅精准的控制能力。代码已开源。

arXiv cs.LGVision-Language-Action (VLA) models unify perception, reasoning, and control within a single policy, yet their multi-billion-parameter backbones and diffusion-based action heads make on-device deployment prohibitively ex