吉布斯采样是一种马尔可夫链蒙特卡洛方法,用于从多元概率分布中生成相互依赖的样本。它每次更新一个变量或一组变量,更新时在给定其余变量当前取值的条件下,从相应的条件分布中抽样。只要条件更新的设定正确,反复执行这一过程就会产生一条以目标联合分布为平稳分布的马尔可夫链。至于这条链能否从初始状态实际收敛到该分布,还取决于其他条件。
这种方法在贝叶斯推断中尤为重要,因为即使后验分布的各个条件分布很简单,直接从后验分布中抽样仍可能很困难。它也应用于统计物理、图像分析、缺失数据模型和机器学习。其核心优势在于,将一个困难的联合分布模拟问题转化为一系列规模更小的条件分布模拟问题。其主要局限则在于,即使每次更新都很容易,整个采样过程对联合分布的探索仍可能非常缓慢。
条件分布与采样算法
设 的目标联合密度函数或概率质量函数为 。用 表示除 之外的所有坐标。坐标 的全条件分布是如下条件分布:
对于离散变量,将积分替换为求和。“全”表示条件中包含其余所有坐标,而不是任意选取的一个子集。在许多模型中,不涉及 的因子会约去,使得这一分布比联合分布简单得多。
系统扫描吉布斯采样器从目标分布支撑集内的某个状态 出发,按固定顺序反复更新各个坐标。在第 轮扫描中,依次生成
因此,每次更新都使用当前可用的最新值。一轮扫描包含对每个坐标各更新一次;而一次迭代既可能指一次坐标更新,也可能指一轮完整扫描,因此在描述计算过程时必须区分二者。随机扫描吉布斯采样则在每一步选择一个坐标,通常各坐标被选中的概率固定且为正。随机排列扫描则为每轮扫描重新随机选取一个更新顺序。
通常,只需知道目标分布的一个与其成正比的函数,而不必知道乘法常数。若 ,则全局归一化常数 会在每个全条件分布中约去。当 是高维积分,或是对数量呈指数级增长的所有构型求和时,这一点尤其有用。不过,仍须正确地从每个条件分布中抽样。吉布斯采样并不会自动解决从复杂一维分布中抽样的问题,也不会让每个条件分布的归一化常数都变得容易计算。
保留下来的状态用作蒙特卡洛样本。对于目标量 ,一个标准的估计量为
与独立随机抽样不同,相邻的吉布斯采样状态通常仍然相关。在适当的遍历性条件下,这种依赖关系不会使该估计量失效,但会改变其不确定性,并决定一次运行能提供多少信息。
坐标不一定是标量。分块更新是在给定 的条件下,对向量 进行联合抽样。这只是对同一原理的扩展,并未改变其基础:更新必须保持相应的条件分布不变,同时让其余变量保持固定。
平稳性、可逆性与收敛性
吉布斯采样的数学基础是条件重采样下的不变性。假设 已经服从联合分布 。若用从 中新抽取的样本替换 ,则 的边缘分布保持不变,而给定 时 的新条件分布恰好就是目标条件分布。因此,所得向量仍然服从分布 。用转移核记号表示,每个坐标更新核 都满足
因此,这些核的任意固定复合也都保持 不变。这就解释了为什么按固定顺序完成一轮扫描的转移核 具有正确的平稳分布。
每一次单独的吉布斯更新也都满足细致平衡。用密度记号表示,对于其余坐标相同的两个状态,表达式
关于 和 对称。坐标选择概率固定的随机扫描核是可逆核的混合,因此也是可逆的。然而,按固定顺序完成的一轮扫描通常不可逆:可逆更新的复合不一定保持可逆性。要使长期采样结果正确,关键要求是平稳性,而不是可逆性。
仅有不变性并不能保证从任意初始状态出发都能收敛。在有限状态空间上,不可约性和非周期性是标准的充分条件。不可约性意味着,通过允许的转移可以到达每一个相关状态;非周期性则排除了在若干状态类之间确定性循环的情形。在一般状态空间上,相应的收敛性结果使用正哈里斯常返性、非周期性等条件。在适当的乘积支撑集上具有严格正的密度往往有助于保证收敛,但仍须结合实际的支撑集和更新方案来考察收敛性。
一个简单的失效例子是:某个二元二值分布在 和 上各赋予概率 ,在其他位置的概率均为零。给定任一坐标,另一个坐标就完全确定了。单坐标吉布斯采样无法在这两个支撑状态之间移动,尽管它们都属于目标分布的支撑集。将两个坐标作为一个块同时更新,就能消除这一障碍。在约束非常狭窄的情形下,也会出现较轻程度的类似问题:状态间虽可转移,但发生转移的概率极低。
在适当的遍历性与可积性条件下,大数定律为沿马尔可夫链计算的平均值提供了理论依据。中心极限定理则需要额外的假设,并不会自动成立。有些链虽然会收敛到目标分布,但其矩性质或混合性质不足以支持常规的蒙特卡洛标准误差估计。因此,平稳分布是否存在、链是否向该分布收敛,以及能否可靠地评估有限次运行的误差,是三个不同的数学问题。
高斯示例与混合缓慢的几何解释
二元正态分布可以直观地展示吉布斯采样及其局限性。设 和 的均值均为零、方差均为一,二者的相关关系由相关系数 描述,其中 。它们的联合分布为多元正态分布,全条件分布为
一轮按固定顺序进行的扫描先在给定 的条件下抽取 ,再在给定 的条件下抽取 。无论 有多大,这两次抽样都很容易完成。
将两个相互独立的正态新息项显式写出,可得
其中, 和 是相互独立的标准正态变量。因此,每轮完整扫描结束后记录的序列 是一个系数为 的自回归过程。在平稳状态下,其滞后 阶的自相关为 。这一精确计算说明:条件分布易于抽样,并不意味着能够高效地探索联合分布。
对于 的样本均值,积分自相关时间为
当 时,该值约为 。因此,对于这一特定的待估量,在平稳状态下进行约 10,000 轮扫描,所含的渐近信息量大致相当于 100 次独立抽样。这种换算并不普遍适用于整条链:非线性函数及其他坐标的自相关特性可能不同。
从几何上看,强相关性使概率集中在一个狭长的椭圆区域内。单坐标更新的移动方向平行于坐标轴。由于椭圆沿这些方向很窄,连续更新往往只能沿其长轴前进很短的距离。联合分块抽样则可以直接跨越椭圆。通过坐标变换,使坐标轴与椭圆的主轴大致对齐,也能改善探索效率。在更高维的高斯模型中,同一现象可通过协方差矩阵或精度矩阵,以及与坐标更新相对应的迭代矩阵来描述。
极限情形揭示了支撑集的作用。当 时,分布变为奇异分布,并集中在一条直线上。此时条件方差为零,普通的标量吉布斯更新因而变成确定性的,无法探索这条直线。尽管这一极限情形与任何非奇异情形都不同,但它解释了为何随着条件方差趋近于零,混合会逐渐变慢。
共轭模型中的贝叶斯计算
当贝叶斯模型的完全条件分布具有已知的标准形式时,吉布斯采样尤为方便。考虑满足下式的观测值 :
其中, 为精度。设各参数的先验相互独立:
其中,伽马分布采用形状参数和速率参数的参数化方式,因此其密度正比于 。明确参数化方式很重要,因为软件也常采用形状参数和尺度参数的约定。
其中
精度的更新分布为
交替从上述正态分布和伽马分布中抽样,就构成了针对联合后验分布的吉布斯采样器。虽然这里选取的是相互独立的先验,而不是一个正态—伽马联合先验,但它们给出的完全条件分布仍具有标准形式,因此通常被称为条件共轭先验。
所得模拟结果不仅能用于点估计。样本均值可用于估计后验期望,经验分位数可用于估计可信区间,而模拟的未来观测值则可用于近似后验预测分布。例如,抽得 后,可以从 中生成一个未来观测值。这样便能将两个参数的不确定性都传递到预测中,而不是代入固定的估计值。
同样的构造也可推广到层次模型。在一个包含各组均值、观测噪声以及这些均值的总体分布的模型中,可以分别更新各组效应、总体均值和方差分量。给定超参数后,条件独立性往往允许同时对所有组效应进行抽样。类似地,层次线性回归在采用正态先验时,其系数的更新分布为多元正态分布,而适当的方差参数则可通过伽马分布或逆伽马分布进行更新。
共轭性只是计算上的便利,既不是贝叶斯推断的必要条件,也不保证采样链具有良好的混合性。组效应与方差参数之间的强依赖可能使完全共轭的采样器效率低下。此外,在使用非正常先验时,仅凭完全条件分布看似具有标准形式,并不能断定联合后验分布是正常的。目标分布必须能够归一化为概率分布,后验模拟才具有通常的解释。
分块、折叠与辅助变量
分块是将多个标量更新替换为一次联合条件更新,目的是让依赖关系很强的变量能够一起变动。例如,在高斯回归中,从整个系数向量的多元正态完全条件分布中抽样,可能远比逐个更新系数有效。但代价在于计算开销:对稠密协方差矩阵进行分解可能需要大量时间和内存。Cholesky分解、稀疏精度矩阵以及可重复利用的矩阵分解,都会影响这种更大范围的更新是否值得采用。效率取决于单位计算量所获得的信息,而不只是迭代次数。
折叠是在模拟前通过解析方法消去选定的变量。如果目标分布为 ,且能够足够准确地计算
那么采样器就可以只在 上运行。马尔可夫链不再需要探索被消去的变量,而消去这些变量也可能减弱依赖性。之后,可以通过从 中抽样来重建这些变量。对于采用共轭先验的模型,折叠尤其有用,因为所需的积分具有闭式表达式。不过,折叠也可能使局部条件更新变成全局耦合的更新,从而增加每次更新的开销。
一种相关的方差缩减思路源于拉奥—布莱克韦尔定理。假设所求的期望为 ,且条件期望 可以求得。对 取平均,相当于通过解析积分消除一部分模拟噪声。通常的全方差公式可以解释单次平稳抽样结果的方差为何会减小。然而,对于具有相关性的蒙特卡洛样本均值,渐近效率还取决于所选采样器引入的序列依赖性;仅仅比较边际方差,并不能对所有情形作出判断。
数据增强采取了一种看似相反的方法:引入辅助变量,以简化条件分布。如果扩展后的目标分布 的边际分布为 ,那么交替按 和 更新,就能得到一个吉布斯采样器,其 状态以所需分布为目标。在二元概率单位回归中,可以引入潜在的高斯响应,使观测到的二元结果表示这些潜在响应的正负号。这样,潜在响应的条件分布就是截断正态分布,而在正态先验下,回归系数的条件分布为正态分布。
这些策略的效果还与参数化方式有关。当数据信息不足时,采用中心化参数化的层次参数可能与总体层面的参数高度相关;非中心化表示则通过标准化的辅助变量来表达组效应。没有哪种参数化方式在所有情况下都最优。部分折叠采样器需要格外谨慎:如果只在部分更新中移除条件变量,却没有协调好更新顺序与保留的变量,就可能使目标分布不再保持不变。即使每个条件更新步骤单独看都合理,也不足以证明整个算法正确。
混合更新、扫描顺序与并行计算
纯吉布斯采样假定,每个选定的条件分布都可以进行精确采样。当这一点难以实现时,一种常见的替代方法是在坐标更新中嵌入一个梅特罗波利斯—黑斯廷斯算法转移。给定 ,候选值 的接受概率为
条件分布的归一化常数在比值中相消。如果每个嵌入的转移都保持相应的条件目标分布不变,那么将这些转移组合起来,就得到有效的吉布斯内嵌梅特罗波利斯算法。在转向另一个坐标之前,无须先让内部转移运行至平衡。
一次精确的吉布斯抽样,本身也可以视为从完全条件分布中生成的梅特罗波利斯—黑斯廷斯候选值,其接受概率为一。这种关系并不意味着吉布斯采样必然比基于候选分布的方法更高效。精心选择的联合候选分布,可能比精确但受限于单个坐标的抽样更有效地穿越强相关区域。因此,混合算法可以对离散变量或共轭变量块采用吉布斯更新,同时对连续变量块采用哈密顿蒙特卡洛或其他转移。
扫描顺序也会影响算法的表现。按照各自的标准定义,固定的系统扫描、随机扫描和随机排列都保持目标分布不变,但它们的收敛速度和计算成本可能不同。依赖于状态的选择概率需要专门分析:根据当前状态选择一个坐标,再对其执行普通的吉布斯更新,一般并不能保持 不变。同样,不能仅仅因为调节参数的每一种固定选择都有效,就认为基于链的历史进行自适应调整也是合理的。
当相关的条件分解结构允许时,并行更新是精确的。如果一组变量在给定其余变量的条件下相互独立,那么它们的联合条件分布就是各条件分布的乘积,因此可以同时抽样。在图模型中,对依赖图进行正常着色,可以将变量划分为这样的若干组。每个颜色组内的变量可以并行更新,随后再更新下一个颜色组。最近邻相互作用的正方格点上的棋盘式更新,就是一个常见例子。
使用过时的相邻变量值来同时更新相互依赖的变量,则是另一种算法。它通常不具有与顺序吉布斯采样相同的不变分布。异步实现可能在特定条件下有用,但其有效性或近似误差需要另行论证。数值实现的细节同样重要:条件采样器不准确、类别概率发生下溢、参数约定不一致,或缓存的充分统计量存在错误,都可能改变实际实现的转移核,即使数学描述本身是正确的。
蒙特卡洛误差与收敛评估
一次吉布斯采样运行有两类概念上不同的误差来源:初始分布的影响,以及有限次模拟带来的变异。从偏离平衡分布的状态出发,可能使早期估计失真,因此通常会设置预热期或烧入期。不过,任意丢弃一定数量的初始状态并不能证明链已经收敛。即使轨迹在局部看起来已经稳定,链仍可能长时间困在某个区域。反过来,如果初始状态本就严格服从目标分布,就无须通过烧入来消除初始化偏差。
对于平稳标量序列 ,假设其自协方差 满足适当的可求和条件。其样本均值的渐近方差由下式决定:
估计这一期望时的有效样本量通常表示为
它将这条链的估计精度与具有相同边际方差的独立抽样的精度进行比较。有效样本量取决于具体的待估量和采样运行,并不是一个适用于所有后验量的、样本本身固有的统一数量。
蒙特卡洛标准误可以通过批均值法、谱方法或适当的自相关估计方法来估计。它们量化的是模拟误差,而非后验不确定性。较宽的后验区间也可以用很小的蒙特卡洛误差估计出来;而即使后验区间很窄,如果链混合缓慢,估计结果仍可能很差。稀有事件概率和尾部分位数所需的计算量,往往远大于分布中心位置附近的期望量。
在不同区域初始化的多条链,能够提供单条轨迹无法提供的信息。链间与链内的比较,包括经过秩归一化和分链处理的潜在尺度缩减统计量,被广泛用于检测混合不良。轨迹图可以揭示漂移、停滞,或不同链分别停留在不同模态的现象。但这些检查都不能证明链已经访问了所有重要区域。对于多模态目标分布,多条链可能仅仅因为都遗漏了同一个模态,就表现出一致的结果。
当限制因素是计算资源而非存储资源时,例行稀疏化——例如每十个状态只保留一个——通常会损失统计信息。如果存储或处理每个状态的成本特别高,这种做法可能是合理的,但它无法解决探索不足的问题。更直接的改进措施包括改变参数化方式、改进分块、调整转移方案,或增加计算量。最终,应当比较的是在单位时间和内存资源下,所关心的量还剩多少不确定性。
统计物理、图模型与潜变量应用
在统计物理中,吉布斯采样常被称为热浴采样。考虑一个伊辛模型,其自旋为 ,相互作用能为
平衡概率正比于 ,其中 为逆温度。固定其他所有自旋时,将自旋 设为 的概率为
这一更新只涉及相邻自旋之间的相互作用。在低温或接近临界状态时,局部更新对系统状态空间的探索可能很慢,因为大尺度构型的改变需要经过许多相互协调的局部变化。
这种局部性可以推广到马尔可夫随机场和其他概率图模型。对于如下因子分解:
的完全条件分布仅包含涉及该变量的因子:
其他因子的消去使吉布斯更新在稀疏模型中具有计算上的优势。在贝叶斯网络中,一个节点的完全条件分布取决于它的父节点、子节点,以及其子节点的其他父节点。因此,图结构所表达的条件独立性既决定了局部计算,也决定了分块或并行执行的可能性。
潜变量模型是另一个主要应用领域。在有限高斯混合模型中,采样器可以交替进行两类操作:将每个观测分配给某个分量,以及更新分量参数和混合权重。给定分配结果后,许多参数更新就变成了标准的共轭计算。然而,若各分量的先验具有对称性,置换分量标签就不会改变后验分布。这种标签交换对称性使分量特定均值的解释变得复杂,而相互分离的不同聚类方案还可能给探索带来额外障碍。
在主题建模中,潜在狄利克雷分配同时使用潜在主题指派、各文档的主题比例,以及各主题的词概率。采用狄利克雷分布作为先验时,可以将主题比例和词概率积分消去,从而得到对主题指派进行采样的折叠吉布斯采样器。对于对称超参数 和 ,文档 中词类型为 的词元 ,其条件主题概率正比于
其中,各计数均不包含正在更新的词元, 为词汇表大小。
缺失数据问题采用类似的交替构造:先以参数和观测数据为条件抽取缺失值,再以补全后的数据为条件抽取参数。这将吉布斯采样与缺失数据插补及不确定性传播联系起来。期望最大化算法在优化过程中使用条件期望;与之不同,吉布斯采样通过从条件分布中随机抽样,探索未知量的分布。
历史发展与方法边界
吉布斯采样得名于统计力学中与 J. 威拉德·吉布斯相关的吉布斯分布,而非吉布斯本人设计的算法。其计算方法的源头是相互作用物理系统的模拟方法:在这类系统中,无须计算完整的配分函数,就能计算构型的局部变化。在利用蒙特卡洛方法研究格点模型时,热浴更新自然成为与接受—拒绝转移规则相对应的另一种方法。
斯图尔特·格曼和唐纳德·格曼于 1984 年发表的关于随机松弛、吉布斯分布与贝叶斯图像复原的研究,是从统计学角度阐述这一方法的里程碑。他们的构造将局部条件模拟、空间图像模型与模拟退火联系起来。在图像复原中,像素或相关的潜变量通过空间先验相互作用,而观测到的含噪强度值则提供似然项。在固定温度下采样,目标是一个分布;逐渐降低温度,则是为了实现优化目标。这两种用途都涉及局部随机更新,彼此相关,但目标和收敛性问题有所不同。
1990 年前后,该方法在主流贝叶斯统计学中的应用迅速普及。艾伦·盖尔芬德和阿德里安·史密斯于 1990 年发表了一篇关于基于采样的边缘密度计算方法的论文,展示了条件模拟如何在广泛的统计模型中替代困难的解析积分。马丁·坦纳和黄永雄于 1987 年关于数据增广的研究,也推动了基于模拟的后验计算方法的确立。此后,层次建模和通用贝叶斯软件的普及,使条件模拟成为常规计算工具。
区分吉布斯采样与其他迭代方法十分重要。坐标优化将每个变量替换为在其余变量给定时使目标函数最优的值;吉布斯采样则从条件分布中抽样,从而保留不确定性。均值场变分推断是在因子分解假设下更新近似分布,而不是遵循同样的马尔可夫转移。因此,表面相似的交替计算可能有着根本不同的数学目标。
最后,各个全条件分布并不总能彼此独立地指定。它们必须与同一个联合分布相容。例如,若提出如下高斯条件分布:
要使其与一个非奇异的联合高斯分布相容,除其他条件外,还必须满足:
这些约束反映了联合分布精度矩阵的对称性和正定性。依次循环使用不相容的条件分布,仍然可以定义一个计算过程,但其行为未必对应于所提出的概率模型,而且可能依赖于更新顺序。用于插补的条件模型也存在类似问题:必须区分为方便而指定的回归模型,与从一个自洽的联合目标分布推导出的全条件分布。