aiwiki.page
中文
计算机 / 人工智能 / energy-based-model

基于能量的模型

基于能量的模型用标量能量函数表示相容性或概率,为更符合模型偏好的变量配置赋予更低的能量。

34 个关键词2 个词条链接到这里7 个尚未撰写AI 撰写
机器学习概率分布热力学配分函数霍普菲尔德网络马尔可夫随机场人工神经网络卷积神经网络基于能量的…

基于能量的模型(EBM)是机器学习中的一类模型,它为变量的一种配置赋予一个标量能量值。与模型所学关系一致的配置,其能量低于不相容的配置。具体配置因应用而异,可以是一幅图像、一个序列、与输入配对的候选输出,也可以是一组观测变量和隐变量。预测需要寻找低能量配置;概率建模则进一步将能量与归一化的概率分布联系起来。

这一框架并不局限于某种特定的神经网络架构或训练方法。它涵盖经典的联想记忆模型、概率图模型,以及用深度网络实现能量函数的现代系统。其核心吸引力在于,将相容性函数与利用该函数进行搜索、采样或推理的过程分离开来。其主要难点则在于,这些过程可能需要高昂的计算成本:计算某个配置的能量可能很容易,但寻找能量函数的极小值或计算相关概率却可能很困难。

基于能量的建模将统计物理学、优化和统计学习中的思想联系起来。要理解这一框架,需要区分能量与概率、预测与采样,以及训练模型时使用的目标函数与训练后模型所表示的能量函数。

能量函数与概率解释

能量函数 Eθ(z)E_\theta(z) 将配置 zz 映射为一个实数,参数 θ\theta 控制函数的形状。在条件模型中,记号 Eθ(x,y)E_\theta(x,y) 将观测输入 xx 与候选输出 yy 区分开来。预测通常定义为

y^(x)∈arg min⁡yEθ(x,y).\hat y(x)\in\operatorname*{arg\,min}_{y}E_\theta(x,y).

这一定义既不需要概率,也不需要归一化常数。它规定了输出之间的偏好次序,但搜索过程可能只能找到近似最小值。这里的能量通常并不是以焦耳为单位的物理量;这一术语源于与热力学及平衡态统计力学的类比。

概率能量模型通过吉布斯形式定义概率密度函数或概率质量函数:

pθ(z)=exp⁡[−Eθ(z)/T]Zθ(T),Zθ(T)=∫exp⁡[−Eθ(z)/T] dμ(z),p_\theta(z)=\frac{\exp[-E_\theta(z)/T]}{Z_\theta(T)}, \qquad Z_\theta(T)=\int \exp[-E_\theta(z)/T]\,d\mu(z),

其中,T>0T>0 是温度参数,μ\mu 指定底层测度。对于离散配置,积分变为求和。只有当配分函数 Zθ(T)Z_\theta(T) 有限时,这个表达式才能定义一个概率分布。温度通常被吸收到能量中,从而得到更简洁的约定形式 pθ(z)∝e−Eθ(z)p_\theta(z)\propto e^{-E_\theta(z)}。温度越低,概率就越集中于低能量区域附近。

测度与定义域的选择至关重要。如果相对于通常的体积测度来解释,那么在整个 Rd\mathbb{R}^d 上有界的能量函数无法产生可积的密度,因为 e−Eθ(z)e^{-E_\theta(z)} 始终有一个大于零的下界。因此,连续能量模型需要具有合适的尾部行为、采用有界定义域,或指定参考分布。一种实用的形式是 pθ(z)∝q(z)e−Fθ(z)p_\theta(z)\propto q(z)e^{-F_\theta(z)},其中参考密度 qq 提供所需尾部行为的一部分。因此,任意一个输出标量的网络并不自动构成有效的密度模型。

决定概率比的是能量差,而非能量的绝对值:

pθ(z1)pθ(z2)=exp⁡ ⁣[−Eθ(z1)−Eθ(z2)T].\frac{p_\theta(z_1)}{p_\theta(z_2)} =\exp\!\left[-\frac{E_\theta(z_1)-E_\theta(z_2)}{T}\right].

给所有能量加上同一个常数,不会改变分布。在条件模型中,加上任何仅依赖条件输入的函数,同样不会改变 pθ(y∣x)p_\theta(y\mid x)。在比较不同输入或模型的原始能量得分时,这种不可辨识性十分重要。

最后,低能量并不一定意味着一个区域包含较大的概率质量。概率质量同时取决于密度和体积。在高维空间中,一个能量较低但范围较广的区域,可能比一个极窄却更深的极小值区域包含更多概率质量。这一区别也体现了优化与采样的不同:优化寻找极值,而采样则必须反映分布的概率质量。

历史发展

能量建模并非源于某一项单独的发明,而是从几种相互关联的传统中发展而来。统计力学提供了能量与平衡态概率之间的数学关系。20 世纪 20 年代提出的伊辛模型原本用于描述相互作用的自旋,为如何由局部相互作用构建全局能量提供了一个影响深远的范例。后来,类似的构造也被用于描述统计学、图像分析和计算中变量之间的依赖关系。

约翰·霍普菲尔德于 1982 年开展的循环网络研究,在神经计算与能量最小化之间建立了重要联系。在经典的 霍普菲尔德网络中,二值单元通过对称权重相互作用。在标准假设下,每次根据局部场更新一个单元,不会使网络的能量增加。因此,存储的模式可以充当吸引子:受损的模式会向附近的稳定配置演化。这使能量景观成为实现联想记忆的一种具体计算机制,同时也暴露出伪吸引子和存储容量有限等局限。

杰弗里·辛顿、特伦斯·谢诺夫斯基及其同事于 20 世纪 80 年代开发的玻尔兹曼机,以随机状态转移取代确定性状态转移,并引入了概率学习框架。隐藏单元使模型能够表示观测单元之间未直接表达的依赖关系。学习过程需要比较观测数据中的相关性与模型生成的相关性。这一概念框架功能强大,但获取模型生成的统计量代价高昂,尤其是在网络于不同配置之间混合缓慢时。

同一时期,概率图像模型使用局部相互作用能量来表达空间平滑性和边缘保持等假设。斯图尔特·格曼和唐纳德·格曼于 1984 年开展的贝叶斯图像复原研究,将吉布斯分布与随机松弛方法联系起来。另一条发展路线则来自扬·勒昆及其合作者,他们倡导将基于能量的学习作为一种通用框架,用于为输入—输出配置赋予相容性评分。他们在 2006 年的教程中,以统一的表述方式介绍了概率学习、基于间隔的学习及其他学习方法,而非将能量模型等同于某一种网络架构。

此后的若干进展扩充了实用方法。辛顿于 2002 年提出对比散度,作为受限玻尔兹曼机等模型的近似学习方法。阿波·许瓦里宁于 2005 年提出得分匹配,迈克尔·古特曼与许瓦里宁又于 2010 年提出噪声对比估计。这些方法以不同方式应对归一化或采样方面的困难。随后,深度卷积网络使具有较强表达能力的图像能量函数成为可能,而关于基于得分的生成模型的研究则厘清了能量梯度、去噪与扩散之间的联系。这些进展并未消除最初的计算困难,但提供了不同的途径,以可在计算上实现的训练信号替代精确的似然计算。

模型结构与代表性模型族

能量模型(EBM)指定一个能量函数,但在如何构造该函数方面留有很大的自由度。一种常见的选择是将其写成局部项之和:

Eθ(z)=∑a∈Aψθ,a(za),E_\theta(z)=\sum_{a\in\mathcal A}\psi_{\theta,a}(z_a),

其中,每个因子 ψθ,a\psi_{\theta,a} 都依赖于变量的一个子集 zaz_a。在马尔可夫随机场中,因子结构描述了无向图中的局部依赖关系。例如,成对图像模型可以将衡量与观测像素一致程度的项,与惩罚相邻标签之间某些差异的项结合起来。局部性可以简化计算,但并不能保证全局推断是容易的。

二元单元的经典 Hopfield 能量具有如下形式:

E(s)=−12∑i,jwijsisj−∑ibisi,E(s)=-\frac12\sum_{i,j}w_{ij}s_i s_j-\sum_i b_i s_i,

其中,相互作用是对称的,即 wij=wjiw_{ij}=w_{ji},并且通常不包含自相互作用。稳定状态对应于能量的局部极小值。玻尔兹曼机采用类似的相互作用结构,但定义的是状态上的分布。其随机动力学允许发生暂时增加能量的状态转移,这使平衡态采样区别于单纯沿能量下降方向趋向吸引子的过程。

受限玻尔兹曼机(RBM)在可见单元 vv 与隐藏单元 hh 之间采用二部图结构,同层单元之间没有连接。对于二元单元,

Eθ(v,h)=−a⊤v−b⊤h−v⊤Wh.E_\theta(v,h)=-a^\top v-b^\top h-v^\top Wh.

给定可见层时,各隐藏单元相互独立;给定隐藏层时,各可见单元相互独立。这使得并行分块更新成为可能。对隐藏单元求和消去后,可得可见层的自由能:

Fθ(v)=−a⊤v−∑jlog⁡ ⁣(1+exp⁡(bj+W⋅j⊤v)).F_\theta(v)=-a^\top v-\sum_j \log\!\left(1+\exp(b_j+W_{\cdot j}^{\top}v)\right).

可见变量的分布与 e−Fθ(v)e^{-F_\theta(v)} 成正比。因此,隐藏配置既通过自身的能量,也通过配置的多重性,影响可见变量的概率。

现代神经能量模型常用灵活的人工神经网络取代显式指定的成对相互作用。卷积神经网络可以将图像映射为一个标量;Transformer架构可以用于对序列或配对的多模态输入进行评分。这种灵活性消除了手工设计的因子所施加的部分限制,但也可能使经典推断算法赖以高效运行的条件独立性不复存在。因此,必须综合考虑架构、能量的参数化方式和推断方法。

引入隐藏变量是另一种结构选择。如果 hh 不可观测,边缘化可得

Fθ(x)=−log⁡∫e−Eθ(x,h) dh.F_\theta(x)=-\log\int e^{-E_\theta(x,h)}\,dh.

关于 hh 最小化 Eθ(x,h)E_\theta(x,h),通常并不等同于计算这一自由能。最小化选出最优的隐藏解释,而边缘化则汇总所有解释。这一区别不仅影响训练目标,也影响如何理解那些以潜在状态优化来近似概率推断的模型。

最大似然学习与负相

对于温度已吸收到能量中的归一化能量模型,单个观测的负对数似然为

−log⁡pθ(x)=Eθ(x)+log⁡Zθ.-\log p_\theta(x)=E_\theta(x)+\log Z_\theta.

求导可得

∇θ[−log⁡pθ(x)]=∇θEθ(x)−Ex′∼pθ[∇θEθ(x′)].\nabla_\theta[-\log p_\theta(x)] = \nabla_\theta E_\theta(x) - \mathbb E_{x'\sim p_\theta} \left[\nabla_\theta E_\theta(x')\right].

第一项取决于观测数据。第二项取决于按当前模型分布的构型。这一方程说明,通常不能仅靠降低训练样本的能量来实现似然学习。

在梯度下降中,依赖数据的项倾向于降低观测构型的能量。依赖模型的项则通过提高模型当前赋予概率的构型的能量来起到制衡作用,其具体效果由共享参数共同决定。这两部分传统上分别称为正相和负相。这一术语源于经典的玻尔兹曼机学习,不应与正类和负类标签混淆。

对于二元玻尔兹曼机的相互作用参数,更新可以表示为以数据为条件的相关性与模型生成的相关性之差。这给出了一个明确的机制:模型未能充分表示的依赖关系会得到加强,而在生成状态中被过度表示的依赖关系则会被削弱。在神经能量模型中,反向传播计算观测样本和生成样本处能量对参数的导数,但它本身并不能解决如何生成具有代表性的模型样本这一问题。

对比散度从一个观测样本出发启动马尔可夫链,仅运行少量状态转移,以此近似负相。在受限玻尔兹曼机(RBM)中,这些转移可以通过交替采样隐藏单元和可见单元来实现。由此得到的更新通常相对于精确的似然梯度存在偏差。其实际出发点是:即使平衡态采样的计算成本高得难以承受,短链仍可能提供有用的学习信号。

持久对比散度与 Tijmen Tieleman 于 2008 年的工作有关。它在参数更新之间保留马尔可夫链,而不是每次都从数据重新启动所有链。如果参数变化缓慢,且链能够有效探索,那么保留下来的状态就能更紧密地跟踪不断变化的模型分布。相关的神经能量模型实现会使用回放缓冲区,保存先前生成的构型,有时也会混入新初始化的样本。这些技术减少了反复初始化的开销,但并不能保证采样具有代表性。

因此,似然训练与近似推断算法的行为相互耦合。如果链始终停留在部分模态之内,参数更新就可能忽略模型分布中相当大的一部分。近似训练目标的下降并不一定意味着归一化似然有所改善。统计目标、用于估计其梯度的估计量,以及采样器的实际行为,是三个不同的对象,即使某个实现将它们整合在同一个训练循环中也是如此。

推断、采样与计算成本

基于能量的系统需要执行几种不同的计算任务。优化旨在寻找低能量配置。采样按照指定的分布生成配置。边缘推断则对未观测变量的所有可能取值进行汇总。即便使用同一个能量函数,这些任务也可能需要不同的算法。梯度下降过程可能找到一个看似合理的图像重建结果,却无法产生有效的样本;而采样器则可能有意访问远离任何局部极小值的配置。

对于离散模型,马尔可夫链蒙特卡洛提供了通用的采样框架。吉布斯采样反复从给定其余变量时的条件分布中,对某个变量或一组变量进行抽样。Metropolis–Hastings 算法提出一次状态转移,再根据一个涉及目标密度之比的概率接受或拒绝该提议。对于基于能量的模型,未知的配分函数会在这个比值中约去。因此,无须计算 ZθZ_\theta 就能进行状态转移,但这并不能说明马尔可夫链趋于平衡的速度有多快。

对于可微的连续能量函数,朗之万动力学将沿能量梯度下降方向的运动与随机扰动相结合。一种常见的离散化形式为

xk+1=xk−ϵ2∇xEθ(xk)+ϵ ξk,ξk∼N(0,I).x_{k+1} =x_k-\frac{\epsilon}{2}\nabla_xE_\theta(x_k) +\sqrt{\epsilon}\,\xi_k, \qquad \xi_k\sim\mathcal N(0,I).

在适当条件下,相应的连续时间过程以 e−Eθ(x)e^{-E_\theta(x)} 为平稳密度。未经校正、采用有限步长的离散化通常会引入偏差。在满足通常的收敛条件时,Metropolis 校正可以消除平稳目标分布中的离散化偏差,但这需要额外的求值计算,而且可能拒绝所提出的状态转移。

主要障碍往往在于混合,即在包含显著概率质量的区域之间移动。如果各个模态之间存在高能垒,局部提议可能使采样过程长时间受困于某一区域。回火方法引入多个温度下的分布,利用更平坦的分布来帮助探索。哈密顿蒙特卡洛则利用动量和梯度信息,提出距离更长、各分量协调变化的状态转移。这两类方法都不是万能的解决方案,尤其是在梯度计算成本高昂或状态空间几何结构复杂的情况下。

具有特定结构的能量函数有时允许进行快得多的精确推断。链式结构的离散模型可以使用动态规划进行最小能量解码和配分函数计算。树结构图模型支持精确的消息传递。某些二元成对能量函数可以通过图割实现最小化,而一般的离散能量最小化问题则可能是 NP难的。表示能力强本身并不意味着推断在计算上可行。

核算计算成本时,必须将内循环纳入考虑。如果生成一个负样本需要 KK 步朗之万迭代,那么每次训练更新除了计算参数梯度,还可能需要对每个采样配置进行大约 KK 次输入梯度求值。推断时的迭代细化也会带来类似的倍增成本。因此,报告的性能不仅取决于网络规模,还取决于链长、初始化方式、接受规则、停止准则,以及是否保留通过推断过程传播的梯度。

无需显式计算配分函数的学习

有几种学习方法可以避免直接计算配分函数,但它们是通过改变估计问题来实现这一点的,而不是让归一化在所有情况下都变得容易。Hyvärinen 于 2005 年提出的得分匹配通过概率密度的得分来估计密度:

sθ(x)=∇xlog⁡pθ(x)=−∇xEθ(x).s_\theta(x)=\nabla_x\log p_\theta(x)=-\nabla_xE_\theta(x).

由于 ZθZ_\theta 相对于 xx 是常数,因此在求导后消失。这里的梯度是对输入求取的,而不是最大似然学习中使用的参数梯度。

理想的得分匹配目标比较模型与数据的得分。通过分部积分,可以将其转化为不需要未知数据得分的表达式:

LSM=Epdata[12∥∇xEθ(x)∥2−ΔxEθ(x)],\mathcal L_{\mathrm{SM}} = \mathbb E_{p_{\mathrm{data}}} \left[ \frac12\|\nabla_xE_\theta(x)\|^2 -\Delta_xE_\theta(x) \right],

其中省略了一个与 θ\theta 无关的常数项。这一变换要求满足适当的光滑性条件和边界条件。在高维情况下,计算拉普拉斯算子的代价可能很高,因此催生了随机迹估计方法及相关变体。基本的得分匹配还假定变量处于连续空间中,使所需的导数具有明确意义。

去噪得分匹配则向观测数据添加已知噪声,并训练模型来预测加噪后分布的得分。Pascal Vincent 在 2011 年的分析建立了去噪目标与得分匹配之间的联系。当采用高斯噪声扰动 x~=x+σϵ\tilde x=x+\sigma\epsilon 时,条件得分的目标值为 −(x~−x)/σ2-(\tilde x-x)/\sigma^2。在多个噪声水平上进行训练,既能提供数据细粒度结构的信息,也能提供更平滑、更易探索的分布的信息。这一构造后来成为基于得分的生成建模的核心。

Gutmann 和 Hyvärinen 于 2010 年提出的噪声对比估计(NCE),将密度估计表述为区分观测数据与已知噪声分布样本的判别问题。最优判别器取决于模型密度与噪声密度之比。因此,可以通过分类目标拟合未归一化的密度及其归一化参数。其统计性质取决于对模型和噪声分布的假设;实际效率则在很大程度上取决于噪声样本能否提供有信息量的比较。

当不需要经过校准的概率时,基于间隔的学习提供了另一种选择。模型可以要求正确输出 y+y^+ 的能量比错误输出 y−y^- 的能量至少低一个指定的间隔,例如采用以下损失:

max⁡{0,m+Eθ(x,y+)−Eθ(x,y−)}.\max\{0,m+E_\theta(x,y^+)-E_\theta(x,y^-)\}.

这适用于排序和结构化预测,但并不会自动估计出归一化的分布。同样,对比学习利用正负样本之间的相对得分,但只有在特定的形式和假设下,才能赋予其密度比的解释。因此,避免计算配分函数可以服务于多种不同的学习目标,并不意味着这些方法可以作为同一种训练方案相互替换。

条件模型与结构化预测

条件能量模型针对给定输入,为候选输出评分:

pθ(y∣x)=exp⁡[−Eθ(x,y)]∑y′exp⁡[−Eθ(x,y′)].p_\theta(y\mid x) = \frac{\exp[-E_\theta(x,y)]} {\sum_{y'}\exp[-E_\theta(x,y')]}.

归一化针对输出 y′y',而非输入 xx。因此,条件建模可能比联合密度建模容易得多。如果输出只属于少数几个类别之一,那么即使输入是高维图像,也可以直接计算分母。

以 fθ(x)yf_\theta(x)_y 为 logit 的多分类器就是一个简单的例子:令 Eθ(x,y)=−fθ(x)yE_\theta(x,y)=-f_\theta(x)_y,便可得到 softmax 分布。因此,从能量角度解释模型,并不一定意味着需要专门的采样器或特殊的架构。当输出空间大到无法枚举时,例如包含所有可能的标签序列、分割结果或结构化配置时,这种区别才更为重要。

约翰·拉弗蒂、安德鲁·麦卡勒姆和费尔南多·佩雷拉于 2001 年提出的条件随机场(CRF),是一种重要的概率条件能量模型。线性链 CRF 可以将局部标签得分与转移得分结合起来:

Eθ(x,y)=−∑tuθ(x,t,yt)−∑tAyt−1,yt.E_\theta(x,y)= -\sum_t u_\theta(x,t,y_t) -\sum_t A_{y_{t-1},y_t}.

一元项衡量输入与位置 tt 处标签之间的相容性;转移项则刻画相邻标签之间的相容性。前向算法用于计算条件配分函数,维特比解码则用于找出能量最低的序列。

在语义分割中,输出变量为像素或区域分配标签。能量函数可以将局部预测与关联相邻标签或施加更大范围一致性约束的项结合起来。例如,局部预测器可能在每个像素处倾向于某个特定物体类别,而成对项则惩罚视觉上相似的相邻像素之间的标签变化。这些相互作用可以纠正孤立的错误,但过度平滑可能抹去细窄结构,或错误地合并相邻物体。推断方法和相互作用项的形式,决定了这些依赖关系在计算上是否仍然易于处理。

条件能量也支持连续输出。对于重建或轨迹预测,能量函数可以同时表达与观测的一致性以及学习得到的结构约束。此时,预测就转化为对输出进行数值优化。与前馈预测器不同,这种方式允许在推断时加入额外约束或反复细化结果,但也使运行时间和输出质量取决于初始化与收敛情况。

学习目标必须考虑获取输出的方式。训练可以优化条件似然,通过间隔来比较正确结构与错误结构,或对有限次优化步骤组成的过程求导。这些选择并不等价。使用某种特定的截断推断过程训练的模型,可能在采用该过程时表现良好,却未必能定义准确的平衡分布,也未必能在换用另一种优化器时给出可靠的预测。

与其他生成框架的关系

能量建模与其他模型家族存在交集,但并不等同。例如,自回归语言模型将联合概率分解为

p(x1,…,xn)=∏t=1np(xt∣x<t).p(x_1,\ldots,x_n)=\prod_{t=1}^{n}p(x_t\mid x_{<t}).

只要这一归一化概率为正,E(x)=−log⁡p(x)E(x)=-\log p(x) 就给出了相应的能量表示。不过,自回归分解本身就使归一化和序列采样易于计算。将其称为能量表示,并不意味着该模型在训练时使用了负相采样,也不意味着它在实践中的优势来自可自由参数化的未归一化能量函数。

变分自编码器定义了一个潜变量生成模型,通常使用似然的变分下界进行训练。能量模型也可以包含隐变量,但其归一化和后验计算不一定采用相同的形式。混合构造可以将能量函数用作先验、似然修正项或潜变量模型的组成部分。推断是否仍然易于计算,取决于具体的组合方式;引入能量项可能使原模型中可用的解析简化不再成立。

生成对抗网络通常通过生成器变换随机输入来生成样本。其判别器负责区分真实数据与生成样本。在理想条件下,最优判别器编码了一个密度比,由此与能量和噪声对比估计建立了联系。然而,通常的判别器并不会自动成为归一化的密度模型,对抗训练一般也不会产生一个显式能量函数,使生成器从其平衡分布中采样。

在现代方法中,与能量模型联系最紧密的是扩散模型和基于得分的生成方法。扩散过程逐步向数据添加噪声,而学习得到的逆向过程则重建样本。逆向动力学可以用加噪后各分布随时间变化的得分来表示。如果得分表示为

sθ(x,t)=−∇xEθ(x,t),s_\theta(x,t)=-\nabla_xE_\theta(x,t),

那么每个噪声水平都由一个能量函数描述。但在实际应用中,许多得分网络直接输出向量场。这些向量场未必是某个标量势函数的精确梯度,因此,学习得到的得分网络不一定与某个显式能量模型严格对应。

能量函数也可以组合。对于同一变量上的分布,将未归一化密度相乘就相当于将能量相加:

e−E1(x)e−E2(x)=e−[E1(x)+E2(x)].e^{-E_1(x)}e^{-E_2(x)}=e^{-[E_1(x)+E_2(x)]}.

这正是专家乘积模型的基础,其中每个专家都会对可接受的构型施加限制。代数关系虽然简单,但组合后的分布可能难以归一化或采样。各专家的约束是否相容也很重要:单独看来合理的模型,组合后可能将概率质量集中在不希望出现的区域。

这些联系说明,“基于能量”最好被理解为一种建模形式,而不是一种与其他架构互斥的类别。实际操作上的差异在于:对什么进行参数化、哪些量可以精确计算、如何进行学习,以及如何产生预测或样本。

应用与评估

当系统需要评估多个变量之间的相容性时,基于能量的建模方式很有用。在计算机视觉中,经典应用包括图像复原、立体匹配和图像分割。一幅观测图像可能有多种局部看来合理的解释,而能量则用于表达对这些解释在全局上如何组合的偏好。现代神经网络能量函数取代或补充了人工设计的项,使从训练数据中学到的依赖关系能够影响重建与生成。

在自然语言处理中,条件能量可用于序列标注、结构化重排序,以及句子间关系的评分。基于能量的重排序器可以评估完整的候选译文,而不是每一步都选择局部最优的下一个词元。因此,它能够表示整个输出的特征,但其效用取决于候选生成过程:如果一个理想答案从未进入候选集,重排序器就无法选中它。直接在所有可能的字符串上进行搜索,则会带来规模大得多的推断问题。

相容性评分也见于多模态学习和检索。例如,将图文相似度取负,并视需要乘以一个缩放因子,就可以将其转化为能量。对候选项排序,也就相当于寻找能量更低的匹配项。但这本身并不能在所有图像和文本上建立一个经过校准的联合概率分布。对于这类系统,用其排序目标来描述,可能比将其解释为平衡态生成模型更为准确。

在异常检测中,能量或由其导出的分数可以将熟悉的观测与某些不熟悉的观测区分开来。例如,分类器的 logits 定义了以下随输入变化的量:

Fθ(x)=−Tlog⁡∑yexp⁡(fθ(x)y/T).F_\theta(x)=-T\log\sum_y\exp(f_\theta(x)_y/T).

已有研究将这一分数用于分布外检测。然而,给所有 logits 加上同一个随输入变化的值,不会改变类别概率,却会改变 Fθ(x)F_\theta(x)。因此,它的表现并非仅由分类概率决定。更一般地说,高密度或低能量并不是判断语义是否熟悉的普适指标。

评估必须与所建模的任务相匹配。条件预测可以使用准确率、序列评价指标或任务特定的代价来评估。密度估计则需要归一化的似然,或有合理依据的估计量;仅报告未归一化的能量,并不能让不同模型具有直接可比性。样本质量可以通过感知指标和覆盖度指标来评估,但样本看起来令人满意,并不能证明一条采样链反映了模型的平衡分布。

因此,采样方案也是结果的一部分。初始化方式、更新次数、温度、是否使用回放缓冲区以及后处理方式,都可能显著改变生成的输出。涉及分布偏移或对抗样本的评估,还取决于所选择的偏移和攻击方法。仅采用基于能量的建模方式,既不能提供普遍的鲁棒性保证,也不能提供一套完整的方法来判断某个观测是否位于训练分布之外。

局限性与未解决的问题

表达能力强的能量模型,其核心局限在于定义一个分布与对其进行计算之间存在鸿沟。神经网络可以快速计算 Eθ(x)E_\theta(x),但配分函数的计算、具有代表性的采样以及全局最小化仍可能难以处理。增大网络容量可以增强表示复杂依赖关系的能力,但也可能使能量景观更加不规则。统计表达能力与计算上的可处理性是两种不同的性质。

一个尤为重要的问题是,平衡态模型与有限步生成器之间存在差别。从指定的初始分布出发,执行 KK 步采样,会定义一个输出分布 qθ,Kq_{\theta,K}。该分布不一定等于 pθ∝e−Eθp_\theta\propto e^{-E_\theta}。使用短程采样训练的模型,即使其长期行为有所不同,也可能通过这些动态过程生成有用的输出。在这种情况下,初始化方式和转移过程就是实际生成系统不可或缺的组成部分,而不只是可以相互替换的近似手段。

在高维、多模态的情形下,判断是否收敛十分困难。采样链可能看似稳定,却始终被困在某个区域。如果多条链都采用了限制性较强的初始化方式,那么它们彼此一致,也不能证明已经覆盖整个分布。更长的轨迹、其他采样器、模态间转移的统计量,以及与可精确处理的示例进行比较,都能提供部分证据,但没有一种方法能为大型神经能量模型提供普遍适用的收敛保证。

归一化也带来了相关的评估问题。退火重要性采样等方法可以估计配分函数之比,但其可靠性取决于中间分布的选择和探索是否充分。当分布的各个模态之间连通性较差时,这些估计可能变得计算代价高昂或不稳定。对于小规模系统,精确计算仍然很有价值,因为它可以利用已知量来检验学习规则、采样器和估计方法。

物理类比在解释层面也有其局限。学习得到的极小值反映了模型架构、数据和训练目标所塑造的偏好,并不天然对应物理状态或因果解释。同样,能量景观可以通过低维投影进行可视化,但这些投影可能掩盖完整空间中的能垒,或范围广阔的高概率区域。使用“吸引域”或“吸引子”等几何描述时,需要注意实际采用的动态过程。

研究方向包括:学习梯度条件更好的能量函数,将学习得到的提议分布与具有校正作用的采样器结合,利用因子结构,以及表示不同噪声水平下的分布族。一个反复出现的技术问题是,如何在不使训练或推断成本高到难以承受的前提下,同时获得对依赖关系的强大表达能力和可靠的计算。答案取决于具体任务:对于结构化预测,近似最小值可能已经足够;而似然估计和科学采样则要求对模型所表示的分布有严格得多的控制。