11:38
官方账号arXiv cs.LG@Yann Bouquet, Alireza Khodamoradi, Kristof Denolf, Mathieu Salzmann
推荐理由：这篇论文发了KroQuant，用Kronecker结构做激活变换，W4A4量化又快又准，比SVDQuant和LoRaQ结果好，还省参数。
KroQuant
共 1 条相关 AI 资讯
7月24日
11:38
KroQuant提出一种Kronecker结构可逆变换，对每个32元素激活块进行在线量化，参数少于per-channel缩放的一半。在MI350 GPU上，KroQuant量化核比SmoothQuant核快14%。在PixArt-Σ、SANA和FLUX.1-schnell上以W4A4（MXFP4e2）量化，KroQuant在MJHQ-30K和SDCI上输出比SVDQuant和LoRaQ更接近FP参考，同时保持或提升图像质量。该方法通过离线LoRaQ权重校准吸收残差权重量化误差。