在信号处理中,量化是将较大的或连续的数值集合映射到较小的离散代表值集合的过程。量化器将每个输入值归入一个判决区域,并用该区域的重建值替代输入值。这使有限精度的存储、传输和计算成为可能,但通常会丢失信息。量化是模数转换、数字音频与图像、数据压缩以及有限精度数值处理的基础。
量化不同于采样:采样使自变量离散化,这个自变量通常是时间或空间位置;量化则使信号的取值离散化。采样后的信号,其幅度在量化之前仍可连续取值。
数学描述
标量量化器每次处理一个数。设其判决区域为 ,对应的重建值为 ,则其映射为
对于普通的有序标量量化器,各判决区域是由判决阈值分隔的区间。编码器生成用于标识所选区域的索引,解码器则将该索引映射为重建值。索引的数值不必等于重建信号的幅度。
用定长二进制表示 个可能的电平,每个值需要的比特数为
反过来, 比特码最多可以标识 个不同电平。当某些索引的出现频率高于其他索引时,采用变长编码可以减少平均比特数。
量化误差通常定义为
对于随机输入 ,常用的失真度量是均方误差,
其中 表示期望值。其他度量可能对大误差、相对误差或感知上重要的差异赋予更大的权重。
由于多个输入通常会产生相同的输出,量化是一种多对一运算,没有额外信息就无法精确逆转。
均匀量化
均匀量化器在正常工作范围内具有等间距的重建电平。间距 称为量化步长。理想的、无范围限制的就近舍入量化器可以写为
在未发生过载时,除恰好位于判决阈值处时需按约定处理外,其误差满足
两种常见的配置为:
- **中平型:**零是一个重建电平,并有一个以零为中心的判决区间。
- **中升型:**零是一个判决阈值,与零最近的重建电平通常为 和 。
实际转换器的电平数量有限。如果标称输入跨度为 ,并将其划分为 个等宽区间,则
技术规格必须区分区间宽度与两端重建电平之间的距离:如果两个端点都是重建值,那么端点之间的跨度为 。
舍入、截断与过载
舍入是选择一个邻近的可表示值。截断则按照特定的算术约定丢弃低位信息。截断可能指向零舍入、向负无穷舍入,或仅仅丢弃特定表示中的若干位;其含义不同,误差的符号和偏差也可能不同。
有限范围的量化器还必须处理超出设计范围的输入。饱和量化器将这类输入映射到某个极端输出电平。由此产生的过载失真可能远大于正常量化单元内的误差。算术回绕是有限字长下另一种可能的行为,但它不同于饱和,可能产生突然而巨大的误差。
在输入范围固定的情况下,增加位深可以减小量化步长;但如果输入超出了这一范围,增加位深并不能防止过载。
量化误差与噪声模型
对于固定的量化器和输入,量化是确定性的。因此,其误差本身并不必然是随机的、独立的,也不必然具有白噪声频谱。不过,将其视为加性噪声往往是一种有用的近似。
对于足够精细的均匀量化器,当输入跨越许多量化单元,且其概率分布在每个单元内变化很小时,通常可将误差近似为在 上均匀分布。在这一模型下,
若输入的均方功率为 ,则信号与量化噪声之比近似为
对于以满量程正弦波为输入的理想 位均匀量化器,在无过载且满足通常噪声模型假设的条件下,
这就是“每增加一位,受量化限制的理想性能约改善 6 dB”这一经验法则的来源。它并不是通用的信噪比公式:幅度较低的信号、不同的波形、受限的测量带宽以及相关误差都会改变结果。
对于恒定、缓慢变化、低幅度或相干采样的周期输入,量化误差可能与信号高度相关。它可能表现为偏差、谐波失真或离散谱线,而不是平滑的噪声底。实际转换器还会引入热噪声、定时不确定性和非线性,因此仅凭标称位深无法确定可用分辨率或动态范围。
抖动
抖动是在量化前有意加入的信号,通常为随机噪声,用于控制量化误差的统计特性。它可以将令人不悦的、依赖于信号的失真转化为更均匀的噪声背景。
抖动还可以使小于一个量化步长的变化在统计意义上变得可观测。即使单个输出样本无法表示微小的输入变化,这种变化仍可能改变相邻输出码出现的概率。
两种重要的配置是:
- **非减性抖动:**所加入的信号保留在重建输出中,成为噪声的一部分。
- **减性抖动:**在重建后减去相匹配的抖动序列。在抖动统计特性适当且无过载的条件下,这可以使量化误差均匀分布,并独立于输入。
并非所有抖动分布都能提供相同的保证。抖动通常是以可控噪声换取确定性伪影的减少,并不能使单个有限位数的样本变得精确。
非均匀量化与自适应量化
非均匀量化器采用宽度不等的判决区域或间距不等的重建电平。它可以在数值出现更频繁、误差影响更大,或选定的感知模型要求更高精度的区域分配更精细的分辨率。
压扩
压扩在均匀量化之前应用非线性压缩函数,并在解码之后应用相应的扩展函数。这样,较小幅度的输入便可获得比较大幅度输入更精细的有效分辨率。
近似对数型的 μ 律和 A 律系统是数字电信中成熟的实例。它们的目的不是在整个范围内一致地最小化绝对误差,而是针对幅度范围宽广的信号,合理分配分辨率。
最优标量量化
对于已知的输入概率密度 ,在电平数量固定且以均方误差为优化目标时,最优标量量化器满足两个常见条件:
- 每个判决阈值都位于相邻重建值的中点。
- 每个重建值都是输入在对应判决区域内的条件均值。
交替执行这两种更新,就得到 Lloyd–Max 算法,这是一种迭代式数学优化方法。其结果可能取决于初始化,并不一定是全局最优解。
在高分辨率条件下,以平方误差为准则的标量量化,其最优重建电平密度与 成正比。因此,概率较高的区域会分配到更多电平,但通常并不直接与概率密度成正比。
自适应量化
自适应量化器会随信号统计特性的变化而调整步长、范围或其他参数。自适应调整可以依据近期样本、传输的边信息,或编码器与解码器共同维护的状态。
这类方法可以提高非平稳信号的处理效率,但也会带来同步、突变和误差传播等方面的复杂问题。
矢量量化与压缩
矢量量化将一组数值映射为有限码本中的一个代表矢量。它不是分别量化每个分量,而是将多维空间划分为若干区域。
这种方法可以利用分量之间的依赖关系,取得比简单的独立标量量化更好的率失真性能。其代价包括码本存储、训练、搜索复杂度,以及可能对训练数据与实际输入之间的不匹配较为敏感。
量化也是有损数据压缩的核心环节。典型系统先对信号进行变换或预测,再量化所得系数或预测误差,最后对索引进行熵编码。
在基于变换的图像和视频编码中,粗量化会抑制小系数,减少描述信号所需的信息量。根据变换方式和编码结构的不同,可见影响可能包括纹理丢失、色带、振铃或块状边界。
率失真理论以形式化方式描述了表示信源所用的信息速率与重建时可容忍失真之间的权衡。实际量化器还受到延迟、计算成本和感知质量等额外条件的约束。
过采样与噪声整形
提高采样率本身并不会减小量化步长。不过,在误差近似为白噪声的模型下,过采样会将量化噪声功率分散到更宽的频率范围。后续的低通滤波器和抽取级可以去除带外噪声。
如果信号带宽为 ,采样率为 ,则过采样比为
对于总功率固定、未经整形的白量化噪声,留在信号频带内的比例约为 。因此,在这些假设下,过采样比每增加一倍,带内信号与量化噪声之比就提高约 3 dB。
Δ-Σ 调制将过采样与对量化误差进行整形的反馈相结合,通常抑制低频误差,同时增加高频误差。随后通过数字滤波去除大部分带外误差。
噪声整形只是重新分配误差,而不是消除误差。实际限制包括环路稳定性、过载、空闲音、元件非理想特性,以及线性化噪声模型成立的条件。
应用与有限精度效应
转换与录音
模数转换器将采样得到的电压或其他电学量量化为编码。数模转换器则将编码映射回实际输出电平,再通过重建滤波形成所需的连续时间输出。
在数字录音中,采样率决定所表示的频率范围,位深则决定幅度分辨率。因此,降低采样率和降低位深是不同的操作,会产生不同的伪影。
数字计算与控制
当中间算术结果被舍入到有限字长时,也会发生量化。定点运算在其取值范围内通常具有近似恒定的绝对间距。浮点运算的间距则随数值大小而变化,因此在其正规数范围内具有大致恒定的相对精度。
在数字滤波器中,系数和状态的量化可能改变频率响应、移动极点,并产生称为极限环的持续振荡。在控制理论所研究的系统中,传感器和执行器的有限分辨率可能影响跟踪性能、稳定裕度和小信号行为。
机器学习
在机器学习中,量化以较低精度表示模型权重、激活值或中间值。常见方案使用缩放因子 和整数零点 ,将实数值 映射为整数 :
降低精度可以减少内存占用和数据搬移,并在适当的硬件上加快计算。准确率取决于数值格式、校准数据、异常值的处理方式,以及训练是否考虑了量化。较低的标称位数并不保证在每种处理器上都能更快执行。
历史发展
随着二十世纪脉冲编码调制的发展,量化成为工程领域的核心问题。阿莱克·里夫斯在 20 世纪 30 年代末的工作,为用离散数值编码表示采样后的通信信号奠定了重要基础。
二十世纪中叶,相关研究将量化器设计与统计决策和信息论联系起来。斯图尔特·劳埃德和乔尔·马克斯的工作确立了最小均方误差标量量化中广泛采用的条件和迭代方法。
此后,数字电信、消费级音频、图像与视频编码、过采样转换器以及低精度计算的发展,使量化从转换阶段的一项操作,扩展为分配有限数值精度的通用方法。