INT8 量化实战:对称与非对称量化、PTQ 校准方法与 QAT 伪量化训练全解
更新时间:2026-09-29。在 TensorRT 推理优化 里,INT8 校准只是引擎全链路中的一环;在 INT8/INT4 量化与校准 里,重点在 scale、零点与离群值的工程账。这一篇换个视角:把「量化」本身当作主角,从映射公式讲到 PTQ(Post-Training Quantization,训练后量化)三种校准方法的选择,再讲到什么时候 PTQ 救不回来、必须上 QAT(Quantization-Aware Training,量化感知训练)。
本文要回答的问题
- 对称量化和非对称量化差在哪,scale 和零点(zero point)各自解决什么问题?
- 权重为什么几乎都按通道(per-channel)量化,激活却只能按张量(per-tensor)?
- PTQ 校准时 minmax、KL 散度、percentile 三种截断策略怎么选,各适合什么分布?
- 校准集(calibration set)要多少张图、要覆盖什么内容才够?
- 什么信号说明 PTQ 已经到极限,必须上 QAT?QAT 的伪量化节点到底在训练图里干什么?
一、量化的本质:一次有损的坐标变换
INT8 量化做的事用一句话说:把 FP32 的连续实数轴,仿射映射到 [-128, 127] 的整数网格上,推理时用整数运算代替浮点运算。映射公式只有两条:
# 量化(FP32 → INT8)
q = round(x / scale) + zero_point
q = clamp(q, -128, 127)
# 反量化(INT8 → FP32)
x_hat = scale * (q - zero_point)其中 scale 是浮点到整数的步长,zero_point 是实数 0 在整数网格上的落点。误差来自两处:round 引入的舍入误差(上界是 scale/2),以及 clamp 引入的截断误差(离群值被拍扁到边界)。所有校准方法本质上都在做同一件事:选一个 scale,让舍入误差和截断误差的总和最小。
看个具体数字建立直觉。某层激活范围是 [-6.0, 6.0],对称量化取 scale = 6.0 / 127 ≈ 0.0472,那么任意一个值的舍入误差最大是 0.0236,相对于满量程的信噪比还能接受。但如果这个分布里混进一个 60.0 的离群值,minmax 策略会把 scale 撑大到 0.472,原来位于 0.05 附近的小激活全部落到同一个整数刻度上,细节尽失。这就是「一个离群点毁掉一整层」的经典剧情,也是截断策略存在的理由:宁可把 60.0 拍扁到 6.0,也要保住其余 99.99% 值的分辨率。
对称量化和非对称量化的区别,就在零点用不用:
| 维度 | 对称量化 | 非对称量化 |
|---|---|---|
| 零点 | 固定 zero_point = 0 | zero_point 可为任意整数 |
| 映射范围 | [-max_abs, max_abs] → [-127, 127] | [min, max] → [-128, 127] |
| 适用对象 | 权重(分布以 0 为中心) | 激活(ReLU 后全是非负值) |
| 硬件开销 | 低,矩阵乘无需补零点项 | 高,卷积要额外算零点修正 |
| 表示浪费 | 负数一半网格给权重几乎不浪费 | 对单边分布能把网格用满 |
为什么激活用非对称更划算?以 ReLU 输出为例,取值范围是 [0, 8.3] 这种单边分布。对称量化只能按 max_abs=8.3 映射,[-8.3, 0) 那一半整数网格全部空置,有效精度直接损失 1 个 bit;非对称量化把 [0, 8.3] 完整映射到 [-128, 127],零点落在 -128,网格一个都不浪费。权重则相反——训练好的权重分布基本以 0 为中心,对称量化不浪费网格,还能省掉硬件里的零点修正电路,所以业界默认组合是权重对称 + 激活非对称。
二、量化粒度:per-tensor 还是 per-channel
同一张量化参数表(一组 scale/zero_point)管多大的数据范围,就是量化粒度。粒度越细,误差越小,但硬件和存储开销越大。
上图说的是工程里最痛的一个问题:卷积核不同输出通道的权重幅值可能差一个数量级。per-tensor 用一组 scale 照顾最大通道,小通道的有效值可能只占整数网格的两三个刻度,舍入误差直接吞掉全部信息。per-channel 给每个输出通道单独配 scale,各通道各用各的坐标系,精度立刻救回来。
工程惯例因此固定下来:权重一律 per-channel(按输出通道切),激活只能 per-tensor。激活不能 per-channel 的原因很实际——激活的 scale 要在推理前对真实数据跑统计才能得到,而逐通道统计会让推理kernel 的反量化路径复杂到失去 INT8 的速度优势。权重是静态的,怎么切都行;激活是动态的,只能选硬件友好的方案。
三、PTQ 校准:给激活选截断阈值
权重的 scale 好办,张量就在那儿,min/max 一算就完。难的是激活:每一层输出的范围随输入数据变化,必须拿一批代表性数据(校准集)在 FP32 模型上跑一遍,收集每层激活的分布直方图,再决定截断阈值 T,最后 scale = T / 127。三种主流截断策略的区别就在 T 怎么选。
三种策略的性格差异很大:
- minmax:不丢任何值,截断误差为零,但一个离群值就能把 scale 撑大 10 倍,其余 99% 的值挤在几个刻度里,舍入误差爆炸。适合分布本来就紧凑的层。
- percentile:固定砍掉两端 0.1% 或 0.01% 的值,简单粗暴。对离群值免疫,但砍多砍少是拍脑袋的超参,不同层的最优分位点不一样。
- KL 散度:把「截断后再量化的分布」和「原始分布」的相对熵当目标函数,枚举候选 T 逐一打分。TensorRT 的 INT8 校准器用的就是它,在多数视觉模型上是默认最优。
选哪个不看方法高下,看激活分布的形状。直方图是瘦高单峰,minmax 就够;拖着长尾、离群点明显,KL 或 percentile 才有意义。实操建议:先用 KL 全跑一遍,对精度掉得最多的那几层单独打印直方图看分布,再决定是不是给个别层换策略。
校准集本身也有讲究。经验数字:500 到 1000 张覆盖真实场景分布的样本,不用标注,但必须来自部署域——拿 ImageNet 校准一个工业缺陷检测模型,激活分布对不上,阈值选得再聪明也白搭。常见的翻车场景是校准集里缺了某类暗光/强反光样本,上线后这类输入的激活幅值远超校准范围,被 clamp 到饱和,精度雪崩。
四、误差从哪来:一层层累积的账本
量化误差不是一次性的,它沿网络逐层累积。第 k 层的输入已经带着前 k-1 层传来的量化噪声,自己的舍入和截断再叠上去。理解这个累积结构,才能解释为什么「前两层和最后两层」经常要特殊照顾。
上图的链式结构说明两件事。第一,浅层噪声会被后续每一层的权重矩阵反复放大,所以第一层和最后的分类/回归头经常是敏感层,工程上常给这两端保留更高精度(FP16 或干脆不量化),中间层放心 INT8,精度只损失零点儿个百分点。第二,累积误差意味着「每层单独看误差都很小」不代表端到端精度没问题,验收标准必须放在任务指标上(mAP、Top-1、BLEU),而不是某一层的余弦相似度。
实操里定位敏感层的方法很直接:一次只量化一层、其余保持 FP32,扫一遍网络找出掉点最狠的层,把这些层加入排除清单。TensorRT、TFLite、各家 NPU 工具链都支持这种混合精度配置。这招通常能把 PTQ 的精度损失从 2% 压到 0.3% 以内,而推理速度只牺牲 5%-10%。
五、QAT:把量化噪声搬进训练图
当 PTQ 怎么调都救不回来——典型信号是任务指标掉超过 1%、敏感层清单越列越长、或者目标位宽压到 INT4——就该上 QAT 了。QAT 的思路釜底抽薪:既然推理时躲不开量化噪声,那训练时就让它存在,让模型学着在有噪声的条件下把损失降下去。
伪量化(fake quant)节点是 QAT 的核心装置:前向时把权重/激活「量化再反量化」,数值上还是浮点,但精度已经被压到 INT8 网格——模型在训练里实实在在尝到量化的苦。反向传播遇到一个问题:round 函数梯度几乎处处为零,梯度传不回去。解法是 STE(Straight-Through Estimator,直通估计器):反向时假装 round 是恒等函数,梯度原样穿透。这个近似粗糙但有效,是 QAT 能收敛的数学根基。
QAT 的代价也是实打实的,决策前先把账算清:
| 维度 | PTQ | QAT |
|---|---|---|
| 需要训练管线 | 不需要,只要校准集前向 | 需要完整训练环境 |
| 数据需求 | 500-1000 张无标注样本 | 全部或部分训练集(常需标注) |
| 时间成本 | 几分钟到几十分钟 | 数小时到数天 fine-tune |
| 典型精度恢复 | 掉 0.1%-1%(调得好) | 可恢复到 FP32 的 ±0.1% |
| 适用场景 | INT8、分布友好的成熟模型 | INT4/低位宽、轻量网络、PTQ 失败后 |
实践经验是 QAT 不用从头训练:加载训练好的 FP32 权重,插入伪量化节点后 fine-tune 原训练量的 5%-10% 就够收敛,学习率取原训练末期的 1/10 起步。初始的量化参数(scale/zero_point)可以先用 PTQ 校准一遍再交给 QAT 微调,收敛更快更稳。
还有两个细节决定 QAT 的成败。其一是 BN(Batch Normalization)折叠的时机:训练图里 BN 是独立算子,推理时会折叠进卷积权重,QAT 必须在正确的阶段做折叠模拟,否则训练时看到的等效权重和部署时不一致,白训。主流框架(PyTorch 的 torch.ao.quantization、TF 的 TFMOT)都内置了折叠感知,手工搭训练管线时这一步最容易漏。其二是量化参数的学习方式:scale 可以冻结(沿用 PTQ 校准结果),也可以设成可学习参数跟着梯度一起更新(即 LSQ 一类做法),后者在低位宽下通常再挤出 0.2-0.5 个点,代价是训练更不稳定、要多调一组超参。
什么模型 PTQ 注定吃力、建议直接考虑 QAT?一是深度可分离卷积为主的轻量网络(MobileNet 系),逐通道权重幅值差异天然大;二是激活分布随输入剧烈变化的模型;三是目标 INT4 以下位宽,PTQ 的噪声已经超出模型冗余能吸收的范围。
六、PTQ 到 QAT 的决策路径
把前面所有判断串成一条决策流,拿到一个新模型后按图走即可。
三个决策要点再强调一遍。第一,验收线必须是端到端任务指标,不是单层误差;第二,混合精度是性价比最高的中间档,90% 的 PTQ 失败用敏感层排除就能救回;第三,QAT 是保底手段不是常规手段,它需要训练管线和标注数据,成本高一两个数量级,不到万不得已不动用。
常见坑
- 校准集图省事从训练集随机抽,但部署域有分布漂移,上线后激活溢出饱和。
- 权重也按 per-tensor 量化,通道幅值差异大的卷积直接掉几个点,换 per-channel 立刻恢复。
- 激活也强行对称量化,ReLU 后的非负分布浪费一半整数网格,平白损失 1 bit 精度。
- minmax 校准遇到离群值,scale 被撑大 10 倍,整层只剩几个有效刻度。
- 验收只看单层输出余弦相似度 0.999,端到端 mAP 却掉了 2 个点——误差是逐层累积放大的。
- QAT 从头训练而不是从 FP32 权重 fine-tune,多花十倍的卡时。
- 伪量化节点的 scale 随机初始化而不先用 PTQ 校准,QAT 收敛慢甚至发散。
这一篇在知识体系里的位置
- 向上承接:INT8/INT4 量化与校准 从 scale、零点与离群值的工程账切入,本篇补全 PTQ 校准方法学对比与 QAT 启用决策,两篇互为表里。
- 横向相关:TensorRT 推理优化 讲量化参数怎么被推理引擎消费、与图优化和 kernel 调优怎么配合;本篇讲参数本身怎么产生。
- 硬件视角:NPU 与 TPU 架构对比 解释为什么整数 MAC 阵列让 INT8 有数倍于 FP32 的能效比,这是量化值得做的物理基础。
- 应用延伸:KV cache 显存管理 里的 KV cache 量化是同一套 PTQ/QAT 方法论在 LLM 场景的具体变体。
总结
INT8 量化的全部学问围绕一条仿射映射展开:权重对称 per-channel、激活非对称 per-tensor 是默认配置;PTQ 用 500-1000 张部署域校准集跑直方图,KL 散度选截断阈值是多数场景的默认最优;验收盯端到端任务指标,掉点先用逐层敏感度扫描做混合精度,仍超标或目标 INT4 以下位宽再上 QAT——用伪量化节点把量化噪声搬进训练图、靠 STE 穿透梯度,fine-tune 5%-10% 训练量即可把精度拉回 FP32 水位。