12:32
官方账号arXiv cs.LG@Md. Mehrab Hossain Opi, Robiul Islam Ryad, Md. Umar Faruk
推荐理由：MixFrag用KL散度定位模型里对量化最敏感的部分，再把位宽分配变成背包问题。在COCO上比之前最好的混合精度PTQ方法涨了9.6 AP，跑ViT的可以看看。
MixFrag
共 1 条相关 AI 资讯
7月31日
12:32
MixFrag提出一种面向视觉Transformer的脆弱性引导混合精度训练后量化框架。它通过计算全精度与量化输出分布的KL散度来估计各组件量化脆弱性，并将位宽分配建模为多选择背包问题。在ImageNet-1K上，MixFrag在多种ViT架构下取得有竞争力的分类精度。在COCO目标检测与实例分割任务中，MixFrag在MP3/MP3设置下比此前最优方法提升高达9.6 AP。