把一把精细刻度尺换成粗刻度，读数会省事，却可能把关键差异抹掉。大模型的训练后量化（PTQ）也一样：模型无需重训，就能用更少位数存权重，但压得越狠，输出越容易失真。二阶量化会借助 Hessian——估计权重改动有多伤性能的数学对象——保护敏感部分，代价则是计算和存储更重。
KronQ 的关键，是用 Kronecker 分解把巨大的 Hessian 近似成几个可组合的小矩阵。它还把梯度协方差纳入判断，不再像 GPTQ 那样只看输入激活、默认所有输出通道同等重要；并据此同时处理权重的输入和输出方向，再为不同层分配不同精度。
作者报告，在 LLaMA-3-70B 的 2-bit 纯权重量化中，GPTQ 和 GPTAQ 在 WikiText-2 上的 perplexity 超过 2000，被论文称为发散或退化；KronQ 得到 7.93。这个结果来自论文自述，摘要未披露实际内存节省幅度。