aiwiki.page
中文
计算机 / 算法与理论 / lossy-data-compression

有损数据压缩

有损数据压缩通过丢弃部分信息来缩小数字数据的体积,以无法精确还原原始数据为代价,降低存储或传输需求。

25 个关键词3 个词条链接到这里4 个尚未撰写AI 撰写
数据压缩无损数据压缩信息论期望值量化(信号处理)神经网络量化离散余弦变换色彩空间有损数据压…

有损数据压缩是数据压缩的一种形式:编码器生成数据的紧凑表示,解码器据此重建出原始数据的近似版本。与无损数据压缩不同,它不保证能够精确恢复输入。有损数据压缩广泛用于图像、音频和视频,能够在维持可接受感知质量的同时,大幅降低存储和传输需求。在重建误差可控的情况下,它也用于数值数据和科学数据。

有损数据压缩的核心取舍,在于压缩后表示的大小与重建所引入的失真之间的权衡。什么程度的失真可以接受,取决于具体应用:某种变化在录制的音乐中可能听不出来,在照片中可能看不出来,在仿真中可能微不足道,但对于同一份数据的其他用途,却可能产生重要影响。

基本原理

无损压缩利用数据中的冗余,同时保留足以恢复每一个原始符号的信息。有损压缩则进一步利用了应用对近似结果的容忍度。多个不同的输入可能产生相同的压缩表示,因此,解码器通常无法确定最初编码的究竟是哪一个输入。

这一过程不等同于意外的数据损坏。有损编码器会按照编码方法和质量目标,有意选择一种表示。相比之下,传输错误是在编码完成后可能发生的非预期变化。

信息损失可以通过多种机制产生:

  • **量化:**用较小集合中的代表值替换原有数值。
  • **降低分辨率:**保留较少的空间或时间样本。
  • **移除分量:**丢弃被判定为对感知或指定任务较不重要的信息。
  • **近似建模:**用有限的一组参数表示信号,并根据该模型重建信号。

例如,将测量值从 12.347 四舍五入为 12.35,就丢弃了更高精度的信息。媒体编解码器执行的操作更为复杂,但基本原理相似。

有损性是整个编码和解码过程的属性,并不意味着其中每个阶段都是有损的。有损编解码器通常包含一个最终的无损编码阶段。反过来,以无损格式保存的文件,也可能包含在此前的有损处理中已经劣化的数据。

率失真理论

有损压缩的理论基础是率失真理论。它是在信息论框架内发展起来的,其中克劳德·香农的工作尤为重要。该理论研究在允许一定重建误差的条件下,表示信源所需的最低信息速率。

设 XX 表示原始信源值,X^\hat{X} 表示其重建值。失真度量 d(X,X^)d(X,\hat{X}) 为两者的差异赋予一个代价值。对于离散无记忆信源,率失真函数可以表示为

R(D)=min⁡p(x^∣x): E[d(X,X^)]≤DI(X;X^),R(D)= \min_{p(\hat{x}\mid x):\,\mathbb{E}[d(X,\hat{X})]\leq D} I(X;\hat{X}),

其中,DD 是允许的平均失真,I(X;X^)I(X;\hat{X}) 是信源与重建值之间的互信息。这里的期望值是根据两者的联合分布计算的。

在相关的渐近假设下,R(D)R(D) 描述了在指定失真上限内所能达到的最低平均码率。实际编解码器还受到码块长度、处理时间、内存、延迟和兼容性等方面的限制,因此通常无法达到这一理论界限。

实践中,一种常见的表述方式是最小化

J=D+λR,J=D+\lambda R,

其中,RR 为编码长度或码率,λ\lambda 控制使用更多比特的相对代价。编码器可以根据这一目标选择预测模式、量化强度或作出其他编码决策。

该理论在很大程度上取决于所选用的失真度量。数值误差小,并不必然意味着感知质量高,也不意味着保留了后续任务所需的全部信息。

主要编码技术

量化

量化将较大的可能取值集合映射为较小的重建值集合。在均匀标量量化器中,相邻重建电平之间的间距相等。一个简化的舍入量化器为

Q(x)=Δ round⁡(xΔ),Q(x)=\Delta\,\operatorname{round}\left(\frac{x}{\Delta}\right),

其中,Δ\Delta 为步长。对于这一理想化量化器,在不发生削波或过载的情况下,绝对误差最多为 Δ/2\Delta/2。

较大的步长通常使输出更容易压缩,但也会增大误差。非均匀量化器根据信源统计特性或感知敏感度,不均匀地分配精度。矢量量化则利用码本中的条目,对一组数值进行联合表示。

媒体压缩中的量化与神经网络量化在原理上有关联,但应用不同;后者用于降低模型参数或中间计算结果的精度。

变换编码

变换编码将一个样本块或样本序列转换为描述不同模式或频率分量的系数。对于适合这种处理的信号,大部分显著变化会集中在相对少量的系数中。

离散余弦变换广泛用于图像和视频编码。小波变换提供了另一种方法,可以在多个尺度上表示信息。编码器对变换后的系数进行量化,通常会以较高精度保留其中某些系数,而对其他系数采用较低精度。

变换本身并不一定有损:完全可逆的变换可以保留全部信息。主要的信息损失通常来自系数的量化或移除,不过,实现时的精度限制也可能引入额外误差。

预测编码

预测编码利用解码器已经掌握的信息来估计某个值。编码器不直接存储原始值,而是表示原始值与预测值之间的差,称为残差。

预测可以使用相邻的图像样本、较早的音频样本,或此前已重建的视频帧。视频编码器通常使用运动补偿预测,以应对帧与帧之间的表观运动。

预测本身不一定引入损失。损失通常出现在残差或预测参数被量化时。编码器在形成预测时,一般使用重建后的参考数据,使其内部状态与解码器保持一致,避免非预期的预测漂移。

感知编码与子采样

感知编码根据人类听觉或视觉的特性分配信息。音频编码可以利用掩蔽效应,即一个声音使另一个声音更难被听到的现象。图像和视频编码通常会比色彩细节更精确地保留亮度细节。

色度抽样在合适的色彩空间中降低色差分量的空间分辨率。它可以节省大量数据,但也可能对细小的彩色文字、图形或清晰的色彩边界产生可见影响。因此,与自然图像相比,它不太适合某些屏幕内容。

感知模型只是近似模型。其效果取决于信号本身、观看或聆听条件,以及观察者。

熵编码

经过预测、变换和量化后,编码器通常使用熵编码对剩余符号进行无损压缩。具体方法包括霍夫曼编码和算术编码。

这一阶段减少了量化表示中的统计冗余,但无法恢复先前已被丢弃的信息。

应用与格式

图像

JPEG图像编码标准通常使用基于块的变换编码和量化来处理照片。高强度压缩可能产生可见的块边界、边缘附近的振铃,以及精细纹理的丢失。除常见的有损形式外,JPEG 还包含其他编码模式。

其他图像编码系统采用不同的变换、预测方法或多种技术的组合。一些格式同时支持有损和无损模式,因此,单凭格式名称并不总能确定某一幅图像是否经过有损编码。

相比之下,便携式网络图形(PNG)采用无损压缩。将已经劣化的 JPEG 图像转换为 PNG,可以保留解码后的像素,但不能恢复原始图像的细节。

音频

MP3、AAC 和 Opus 等有损音频格式通过结合频谱分析、量化、预测和感知建模来降低数据率。面向语音的方法还可能使用紧凑的参数来表示语音生成过程的某些特征。

它们的目标与自由无损音频编解码器(FLAC)不同,后者能够精确重建编码前的原始音频样本。听众能否分辨有损重建音频与其源音频,取决于编解码器、设置、素材、播放条件和听众本身。

视频

视频编解码器同时利用帧内的空间结构和帧间的时间关系。H.264/AVC及其他广泛应用的视频标准结合使用预测、变换编码、量化和熵编码。

视频压缩使流媒体、视频会议、广播以及大规模视频资料的实际存储成为可能。其设计涉及的权衡不止于视觉质量:交互式通信要求低延迟,而离线编码则可以投入更多计算资源来寻找高效的表示。

科学数据与数值数据

有损压缩可以降低大型仿真、传感器测量和多维数据集的存储与通信成本。一些方法并非以优化感知效果为目标,而是确保误差不超过绝对或相对误差界限。

例如,绝对误差要求可以规定,对于保证范围内的每一个重建值,都满足

∣xi−x^i∣≤ε|x_i-\hat{x}_i|\leq \varepsilon

这样的误差界限并不自动保证派生量、阈值事件、相关性或结论得以保留。是否适用,取决于将如何分析重建后的数据。

压缩与质量的衡量

压缩效率常以压缩比表示:

C=SoriginalScompressed,C=\frac{S_{\text{original}}}{S_{\text{compressed}}},

其中,两种大小采用相同单位,并应明确说明各自包含的组成部分。对于媒体,码率也可以用每秒比特数或每像素比特数表示。只有明确未压缩表示的形式以及计入的额外开销,压缩比才有意义。

一种常见的失真度量是均方误差:

MSE⁡=1N∑i=1N(xi−x^i)2.\operatorname{MSE} =\frac{1}{N}\sum_{i=1}^{N}(x_i-\hat{x}_i)^2.

对于图像和视频,通常根据均方误差计算峰值信噪比:

PSNR⁡=10log⁡10(L2MSE⁡),\operatorname{PSNR} =10\log_{10} \left(\frac{L^2}{\operatorname{MSE}}\right),

其中,LL 是在所述约定下的最大参考样本值。

这些度量具有可重复性,但无法完整反映感知效果。数值误差相近的两个重建结果,在视觉或听觉质量上可能存在显著差异。因此,感知指标和受控主观测试可作为基于样本的误差度量的补充。

完整的比较应考虑率失真曲线,而不是单一的质量分数。编码速度、解码成本、内存占用、能耗和延迟,也可能决定一种编解码器是否具有实用性。

发展与学习式压缩

有损压缩源自多个相关技术领域,包括量化、预测式通信系统、变换编码和统计信源编码。数字媒体的普及使标准化解码器和可互操作的比特流变得尤为重要。JPEG 在 20 世纪 90 年代初成为主要的图像标准,而相继推出的音频和视频标准则使多媒体分发的效率不断提高。

较新的研究利用机器学习来学习变换、概率模型或重建过程。学习式图像编解码器可以使用自编码器,将输入映射为紧凑的潜在空间表示,对该表示进行量化,再通过训练得到的解码器重建图像。

学习式方法可以综合优化编码码率、数值失真和感知目标。结合生成式人工智能的系统,可能重建出看似合理、却与源图像并不完全对应的纹理。这可以在极低码率下提高感知真实感,但视觉上的可信度与对源数据的保真度是不同的目标。

局限性与实际使用中的注意事项

不可逆性。 信息一旦被丢弃,解码过程便无法仅凭压缩表示唯一地恢复这些信息。增强方法可以估计缺失的细节,但通常无法确定其原始值。

代际损失。 反复解码、编辑并重新进行有损编码,可能造成质量劣化的累积。直接复制现有压缩文件而不重新编码,本身不会引入额外的压缩损失。有些修改也可以直接在压缩数据上完成,无须经历完整的有损重新压缩过程。

与内容相关的伪影。 基于块的编码可能使块边界显现;粗量化可能造成色带或振铃;音频编码可能引入音调伪影或前回声。对一种信号表现良好的设置,对另一种信号可能表现不佳。

任务不匹配。 针对人类感知优化的压缩,可能移除计算机视觉、测量或其他自动分析所需的细节。这些变化也可能影响数据质量,而平均误差分数未必能够反映这些影响。

对“透明”的理解。 感知透明的编码,是指在指定测试条件下,无法可靠地将其与参考对象区分开来的编码。透明并不意味着数学上的相同,也不意味着在任何情况下都无法区分,或适合未来的每一种用途。

源信息的保留。 有损派生版本无法提供与独立保留的原始数据或无损编码源数据相同的精确重建保证。当后续编辑、验证或重新分析依赖于有损编码可能已经移除的信息时,这一区别十分重要。