11:38
官方账号arXiv cs.AI@Johann Birnick, Rayan Saab
精选
推荐理由：BaKron用Kronecker曲率做量化，速度和GPTQ同级，能换量化器和Hessian估计器。
Kronecker分解
共 1 条相关 AI 资讯
8月7日
11:38
BaKron 是一种新的神经网络量化求解器，利用 Kronecker 分解的 Hessian 信息做自适应取整。它在 m×n 权重矩阵上把顺序步骤数降到 O(m+n)，总工作量从 O(m²n²) 降到 O(mn(m+n))，与 GPTQ 的立方复杂度同级。BaKron 基于 BoA 和 YAQA 的两侧自适应取整框架，并兼容不同基础量化器和 Hessian 估计器。论文给出了多种 Hessian 估计器下的量化效果评测。