瓦瑟斯坦生成对抗网络(WGAN)是一类生成对抗网络,通过学习真实数据分布与生成数据分布之间的瓦瑟斯坦-1距离的近似值来训练生成器。该方法由 Martin Arjovsky、Soumith Chintala 和 Léon Bottou 于2017年提出,以输出实数且受利普希茨约束的评判器,取代通常用于区分真伪的分类目标。其目的是在真实分布与生成分布几乎不重叠或完全不重叠时,提供更有用的优化信号。
背景与动机
GAN 包含两个相互作用的人工神经网络。生成器 将随机输入 转换为合成样本;这些输入通常采样自潜在空间中的某个简单分布。另一个网络则将生成样本与真实训练数据进行比较和评估。训练过程交替改进评估网络与生成器。
在最初的 GAN 框架中,评估网络是一个判别器,其训练任务是将样本分为真实样本或生成样本。当判别器达到最优时,极小极大目标与两个分布之间的詹森–香农散度有关。
当两个分布位于互不重叠的低维集合上时,这一框架可能出现问题;图像等高维数据就可能涉及这种情况。即使生成样本在几何上接近真实样本,理想判别器仍能完美地区分这两个分布。由此得到的极小极大目标,可能无法为生成器应如何调整输出提供多少有用信息。
常用的非饱和 GAN 生成器目标缓解了导致梯度微弱的一种原因,但这并不意味着其目标等价于分布之间的几何距离。WGAN 则改变了优化所针对的分布差异度量。
数学基础
瓦瑟斯坦-1距离
设 为真实数据的概率分布, 为生成器诱导的分布。两者的瓦瑟斯坦-1距离为
其中, 是样本之间的距离, 是边缘分布分别为 和 的所有联合分布构成的集合。通常假设这些分布具有有限的一阶矩。
这一定义源于最优传输,描述的是将概率质量从一个分布搬运到另一个分布所需的最小平均代价。当底层距离采用欧氏距离时,搬运得越远,代价越高。
例如,若一个分布将全部概率质量集中在 ,另一个集中在 ,则两者的瓦瑟斯坦-1距离为 。因此,当 趋近于零时,该距离也连续地趋近于零。相比之下,只要这两个位置不同,它们的詹森–香农散度就始终保持最大值。
在生成器满足适当假设时,瓦瑟斯坦距离所给出的目标函数关于生成器参数连续,并且几乎处处可微。这为该方法提供了理论依据,但并不保证神经网络优化一定成功。
对偶形式
每个训练步骤都直接求解传输问题,计算代价会很高。因此,WGAN 使用坎托罗维奇–鲁宾斯坦对偶性:
这里的上确界取遍所有满足1-利普希茨条件的函数。若函数对任意一对输入都满足
则称其满足这一利普希茨连续性条件。
神经网络评判器 用来近似这样的函数。其输出不同于判别器给出的概率,不必位于零与一之间,输出端通常也不使用 sigmoid 激活函数。它的作用是在给定约束下为样本打分,通过分数之差区分真实分布与生成分布。
训练目标与流程
采用最小化的约定时,评判器与生成器的损失函数可写为
评判器最小化 ,从而扩大真实样本与生成样本的分数差。生成器最小化 ,从而提高其生成样本的分数。
训练通常按以下流程进行:
- 采样一个小批量的真实样本和潜在输入。
- 固定生成器,更新评判器。
- 强制评判器满足利普希茨约束,或促使其接近该约束。
- 按选定的步数重复更新评判器。
- 固定评判器,更新生成器。
生成器通过反向传播接收经由评判器传来的梯度。每次更新生成器之前多次更新评判器,有助于近似求解内层最大化问题,但合适的更新次数比是一个超参数,而非普遍适用的常数。
两个网络都不会精确求解各自的优化问题。在实践中,WGAN 是一种使用有限规模网络和小批量估计的交替数学优化方法,而不是对瓦瑟斯坦距离的精确计算。
施加利普希茨约束
原始 WGAN:权重裁剪
原始 WGAN 在每次更新评判器后,将评判器的每个参数限制在固定区间内:
对于常见的固定网络架构,限制权重可以为评判器的利普希茨常数施加一个有限上界。不过,裁剪通常不能使利普希茨常数恰好等于一。实际的上界取决于网络架构、深度和激活函数。
裁剪虽然简单,却可能限制评判器的表达能力。裁剪区间过窄,可能导致梯度微弱,或使评判器无法表示有用的函数;区间过宽,则可能使梯度难以得到有效控制。原始方法所报告的训练流程使用 RMSProp,而非基于动量的 Adam。
带梯度惩罚的 WGAN
**带梯度惩罚的 WGAN**通常简称为 WGAN-GP,由 Ishaan Gulrajani 及其合作者于2017年在论文《改进瓦瑟斯坦 GAN 的训练》(Improved Training of Wasserstein GANs)中提出。该方法以针对评判器输入梯度范数的正则化项取代权重裁剪:
其中
这里, 采样自真实数据, 来自生成器。
对于欧氏空间上的可微函数,将梯度范数限制为不超过一,与1-利普希茨连续性密切相关。WGAN-GP 在真实样本与生成样本之间采样插值点,并促使这些点处的梯度范数接近一。
这并不能精确保证全局的利普希茨性质。惩罚项只在采样位置计算,而且它鼓励梯度范数等于一,而非仅仅施加一个上界。尽管如此,相比权重裁剪,它往往能使评判器的训练更加灵活。
WGAN-GP 通常使用Adam优化器。其评判器一般不使用批量归一化,因为依赖于整个批次的输出会使逐样本计算的输入梯度惩罚变得复杂。
其他约束方法
其他方法包括单侧梯度惩罚,以及控制权重矩阵算子范数的谱归一化。这些方法所形成的函数类和约束各不相同。谱归一化也可用于非瓦瑟斯坦 GAN 目标;仅仅采用谱归一化,并不意味着模型就是 WGAN。
评判器分数的解读
WGAN 的一项重要吸引力在于:相比普通判别器的分类准确率,评判器对真实样本与生成样本的分数之差,可能更有助于了解训练进展。
不过,对这一分数差需要谨慎解读:
- **评判器能力有限:**神经网络评判器只能在受限的函数类中搜索。
- **优化不充分:**评判器可能远未达到最优状态。
- **约束的准确性:**权重裁剪和梯度惩罚都不能精确复现理想的对偶约束。
- **采样误差:**小批量估计存在波动,评判器也可能对训练样本产生过拟合。
- **尺度依赖性:**数值取决于底层度量、输入的缩放方式以及实际的利普希茨上界。
对于真正满足1-利普希茨条件的评判器,其期望分数差是瓦瑟斯坦-1距离的下界。如果约束只是近似满足,这一解释就未必严格成立。
在 WGAN-GP 中,评判器的总损失包含梯度惩罚,因此其本身不是距离估计值。无论是原始分数差还是生成器损失,都不能作为跨架构、跨数据集普遍可比的视觉质量指标。
应用与局限
WGAN 目标已用于图像合成、条件生成及生成式人工智能中的其他任务。该框架并不规定特定架构:生成器和评判器可以采用卷积神经网络、残差网络或其他可微模型。
它在实践中的主要吸引力,是有可能提供信息更充分的梯度,并使训练比某些传统 GAN 配置更加稳定。这些优势仍取决于架构、优化方法和数据。
主要局限包括:
- **不提供一般性的收敛保证。**非凸网络之间的交替更新仍可能发生振荡或失败。
- **不能保证避免模式坍塌。**生成器仍可能无法充分覆盖数据分布的某些部分。
- **额外的计算开销。**多次更新评判器以及计算梯度惩罚会增加训练成本。
- **对度量的依赖。**原始样本空间中的欧氏距离未必符合感知或语义上的相似性。
- **统计上的困难。**估计一般高维分布之间的瓦瑟斯坦距离可能需要大量样本;学习得到的评判器还会带来额外的近似与估计问题。
- **可微性要求。**标准的生成器更新要求经过生成输出的计算路径可微,这使其难以直接应用于离散符号。
因此,更恰当的理解是:WGAN 改变了对抗训练的目标和评判器约束,而不是一种在所有情况下都更优的 GAN 架构。