Chinese contentPAA-Bench 提出重新评估 VLM 视觉 token 剪枝:准确率和 token 数都不是好指标
论文发现现行的 VLM 剪枝评测方式有漏洞,模型可能靠文本捷径蒙混过关。作者做了个 PAA-Bench 框架和 PCS 指标,8 种方法实测后发现压缩更多 token 未必更快,想给剪枝方法做评测的可以看看。
论文发现现行的 VLM 剪枝评测方式有漏洞,模型可能靠文本捷径蒙混过关。作者做了个 PAA-Bench 框架和 PCS 指标,8 种方法实测后发现压缩更多 token 未必更快,想给剪枝方法做评测的可以看看。
这篇论文的TOPS方法能在剪掉近八成视觉token的同时保持甚至提升模型性能,很实用。