aiwiki.page
中文
数学 / 概率与统计 / dynamic-bayesian-network

动态贝叶斯网络

动态贝叶斯网络通过一系列相互连接的有向无环图,表示随时间演化的变量之间的概率依赖关系。

24 个关键词1 个词条链接到这里2 个尚未撰写AI 撰写
概率图模型随机变量贝叶斯网络有向无环图联合概率分布条件独立性马尔可夫性质平稳过程动态贝叶斯…

动态贝叶斯网络(DBN)是一种概率图模型,用于描述一组随机变量如何随时间演化。它在贝叶斯网络的基础上,引入连续时间步上的变量,并指定同一时间步内及不同时间步之间的依赖关系。因此,一个紧凑的时序模板就能定义任意长度序列上的概率分布。动态贝叶斯网络为部分可观测系统的建模、多源观测的融合,以及不确定时序过程的推理提供了统一框架。

表示与数学定义

贝叶斯网络利用有向无环图表示联合概率分布。每个节点对应一个变量,并具有一个给定其父节点的局部条件分布。图中编码的条件独立假设,使联合分布可以分解为这些局部分布的乘积。

动态贝叶斯网络将这一构造应用于带有时间索引的变量。令

Xt=(Xt1,…,Xtn)X_t=(X_t^1,\ldots,X_t^n)

表示时刻 tt 的变量。一个时间片包含与某个时间步关联的所有变量。边既可以连接同一时间片内的变量,也可以从较早的变量指向较晚的变量。

在常见的一阶形式中,整个时间片满足马尔可夫性质:

p(Xt∣X0,…,Xt−1)=p(Xt∣Xt−1).p(X_t\mid X_0,\ldots,X_{t-1}) = p(X_t\mid X_{t-1}).

模型由初始分布 p(X0)p(X_0) 和转移模型 p(Xt∣Xt−1)p(X_t\mid X_{t-1}) 构成。对于结束于 TT 的序列,

p(X0:T)=p(X0)∏t=1Tp(Xt∣Xt−1).p(X_{0:T}) = p(X_0)\prod_{t=1}^{T}p(X_t\mid X_{t-1}).

转移分布本身也按照图结构分解:

p(Xt∣Xt−1)=∏i=1np ⁣(Xti∣Pa⁡(Xti)),p(X_t\mid X_{t-1}) = \prod_{i=1}^{n} p\!\left( X_t^i \mid \operatorname{Pa}(X_t^i) \right),

其中,Pa⁡(Xti)\operatorname{Pa}(X_t^i) 包含前一时间片中的父节点;在模型允许的情况下,也包含当前时间片中的父节点。时间片内的边不得构成有向环。初始分布也有其自身与图结构相容的分解形式。

变量可以是离散的、连续的,也可以是二者的混合。其局部分布可以采用条件概率表、高斯模型或其他参数化条件分布。

双时间片模板与网络展开

双时间片时序贝叶斯网络指定了连接两个相邻时间片所需的依赖关系。重复这一模板,就能得到覆盖某一特定时间区间的展开网络。

这种重复结构使动态贝叶斯网络区别于任意包含时间索引变量的贝叶斯网络:它提供了一条紧凑的规则,用于生成一族时序网络。“动态”主要指所建模的系统在不断演化,并不意味着图结构本身必须随时间改变。

尽管动态系统中常见反馈,展开后的图仍然是无环的。例如,AtA_t 可以影响 Bt+1B_{t+1},而 BtB_t 可以影响 At+1A_{t+1},却不会在展开网络中形成有向环。

时间假设

马尔可夫阶数与状态构造

一阶假设针对的是完整的状态表示,而不一定分别针对每个观测变量。即使底层隐状态满足一阶马尔可夫性质,观测序列仍可能保留长程依赖。

高阶模型允许依赖多个先前时间片。通过扩展状态,使其包含所需的历史信息,可以将有限阶过程表示为一阶过程。不过,这种变换可能显著增加计算成本。

因此,状态变量的选择是模型设计的核心。状态应保留预测未来所需的信息,同时避免不必要的复杂性。

时间齐次性与平稳性

许多动态贝叶斯网络在每个时间步都重复使用相同的图结构和条件分布参数。这类模型称为时间齐次模型。

时间齐次并不等同于平稳过程。即使转移规则保持不变,受初始分布的影响,XtX_t 的分布仍可能随时间变化。严格平稳性要求所有有限维分布在时间平移下保持不变。对于时间齐次马尔可夫模型,若以不变分布作为初始分布,就会得到平稳过程。

动态贝叶斯网络也可以使用随时间变化的参数、变化的结构、外部输入或工况变量。这些扩展放宽了重复模板的假设。

离散时间

标准的动态贝叶斯网络表示一系列离散时间步。时间步之间的间隔必须适合具体应用:在某种采样分辨率下看似瞬时的依赖关系,在另一种分辨率下可能跨越多个时间步。

连续时间贝叶斯网络是与之相关的模型,但采用不同的数学形式,通常以条件转移强度为基础。它们并不是简单地将普通动态贝叶斯网络的时间步缩小到任意小。

与其他模型的关系

马尔可夫链与隐马尔可夫模型

马尔可夫链是一个简单的特例,每个时间片仅含一个状态变量。

隐马尔可夫模型(HMM)引入隐状态 ZtZ_t 和观测 YtY_t,其分解形式为

p(Z0:T,Y0:T)=p(Z0)∏t=1Tp(Zt∣Zt−1)∏t=0Tp(Yt∣Zt).p(Z_{0:T},Y_{0:T}) = p(Z_0) \prod_{t=1}^{T}p(Z_t\mid Z_{t-1}) \prod_{t=0}^{T}p(Y_t\mid Z_t).

动态贝叶斯网络允许多个状态变量相互作用,并支持更复杂的观测结构,从而推广了这一表示。

通过将一个时间片中的所有隐变量合并为单个复合状态,有限离散动态贝叶斯网络可以表示为隐马尔可夫模型。二者的区别在于表示方式和计算方式:动态贝叶斯网络保留内部的因子分解结构,而复合隐马尔可夫模型的状态可能具有极其庞大的取值数量。

状态空间模型与卡尔曼滤波

线性高斯状态空间模型可写为

Zt=AZt−1+εt,Yt=CZt+ηt,Z_t=AZ_{t-1}+\varepsilon_t, \qquad Y_t=CZ_t+\eta_t,

其中,初始状态服从高斯分布,各高斯噪声项满足适当的独立性条件。该模型可以用动态贝叶斯网络表示。在线性高斯假设下,卡尔曼滤波器通过有限维均值和协方差的更新,计算精确的滤波分布。

因此,离散隐马尔可夫模型和线性高斯状态空间模型,都是更广泛的动态贝叶斯网络家族中易于计算的成员。一般的非线性、非高斯或离散—连续混合动态贝叶斯网络,未必能进行如此简单的精确计算。

自回归模型与受控模型

自回归模型也可以表示为动态贝叶斯网络,其中每个值依赖于先前的值。与隐状态模型不同,基本的自回归模型不一定需要引入隐变量。

动作或控制输入可以作为额外变量纳入模型,用于为状态转移提供条件。动态贝叶斯网络能够表示部分可观测马尔可夫决策过程中的转移与观测部分,但仅靠动态贝叶斯网络本身,并不能指定奖励或最优决策策略。

推断

推断是在给定现有证据的条件下,计算未知变量的分布。在时序模型中,主要任务可根据目标时刻与观测时刻之间的关系加以区分。

  • **滤波:**根据截至当前可获得的观测,估计当前状态,即 p(Zt∣Y0:t)p(Z_t\mid Y_{0:t})。
  • **预测:**估计未来的状态或观测,例如 p(Zt+h∣Y0:t)p(Z_{t+h}\mid Y_{0:t})。
  • **平滑:**利用较晚的证据估计较早的状态,即 p(Zt∣Y0:T)p(Z_t\mid Y_{0:T}),其中 t<Tt<T。
  • **最可能轨迹:**寻找使后验概率最大的联合状态序列。

在每个时刻分别选择最可能的状态,通常并不能得到最可能轨迹。

对于标准的隐状态—观测结构,滤波过程交替进行预测,

p(zt∣y0:t−1)=∫p(zt∣zt−1)p(zt−1∣y0:t−1) dzt−1,p(z_t\mid y_{0:t-1}) = \int p(z_t\mid z_{t-1}) p(z_{t-1}\mid y_{0:t-1}) \,dz_{t-1},

以及基于贝叶斯定理的更新,

p(zt∣y0:t)=p(yt∣zt) p(zt∣y0:t−1)p(yt∣y0:t−1).p(z_t\mid y_{0:t}) = \frac{ p(y_t\mid z_t)\,p(z_t\mid y_{0:t-1}) }{ p(y_t\mid y_{0:t-1}) }.

对于离散状态,积分变为求和。更一般的动态贝叶斯网络可能需要规模更大的中间因子,因为其观测结构和转移结构不一定具有这种简单形式。

精确推断

精确方法包括在展开网络或适当的时间接口上进行变量消元和联结树消息传递。隐马尔可夫模型的前向—后向递推和卡尔曼滤波,利用了能够高效进行精确推断的特殊结构。

计算复杂度在很大程度上取决于树宽,以及为连接过去与未来而必须保留的变量。局部依赖稀疏并不保证精确推断的成本低:对变量进行边缘化,可能使剩余变量之间形成稠密的依赖关系。

对于固定的有限离散模板,通常可以将精确序贯推断组织成每步计算成本不随已处理序列长度增长的形式。不过,这一成本仍可能随相关时间接口的规模呈指数增长。

近似推断

当精确计算不切实际时,常用方法包括:

  • 粒子滤波,利用带权样本近似滤波分布。
  • 变分推断,利用更易处理的分布族近似复杂的后验分布。
  • 马尔可夫链蒙特卡洛,常用于对轨迹或参数进行后验采样。
  • 高斯近似和近似消息传递方法。

这些方法各有不同的失效情形。粒子滤波在高维系统中可能出现权重退化;受限的变分分布族可能遗漏重要依赖关系;采样方法则可能混合缓慢。

从数据中学习

学习可能涉及数值参数的估计、图结构的发现,或同时涉及二者。

参数估计

当所有相关变量均可观测且图结构固定时,因子分解通常能将参数估计分解为局部问题。离散条件概率表可以根据转移计数估计,而适当的连续模型可以采用基于回归的估计方法。

存在隐变量或观测不完整时,期望最大化算法是一种常用方法。其期望步计算充分统计量的后验期望;最大化步更新参数,以提高完整数据对数似然的期望值。所需的推断本身也可能具有很高的计算成本。

贝叶斯推断则为参数设置先验分布,并计算或近似其后验分布。这种方法能够表示参数的不确定性,而不是完全依赖点估计。

结构学习

结构学习搜索时间片内和时间片之间的依赖关系,通常采用带惩罚项的似然评分或贝叶斯模型评分。时间顺序排除了从未来变量指向过去变量的箭头,从而约束搜索范围,但并不能唯一确定图结构。

随着父节点数量和变量取值数量的增加,数据需求可能迅速增长。对父节点集施加约束、采用稀疏性假设以及共享参数,都可以缩小搜索空间并减少参数数量。

对时间序列数据的评估必须与预测任务相适应。随机混合不同时刻的观测,可能将未来时段的信息泄漏到模型开发过程中;因此,评估预测性能时,往往需要采用按时间分隔的评估方式。

示例

考虑一台机器,其隐含运行状态为 HtH_t,温度测量值为 TtT_t,振动测量值为 VtV_t。一个简单的动态贝叶斯网络可以指定

p(Ht∣Ht−1),p(Tt∣Ht),p(Vt∣Ht).p(H_t\mid H_{t-1}),\qquad p(T_t\mid H_t),\qquad p(V_t\mid H_t).

其图结构断言:给定当前运行状态,温度与振动条件独立。但二者在边缘分布上不一定独立:机器状况恶化时,两者都可能发生变化。

随着测量数据陆续到来,滤波会更新运行状态的分布。预测用于估计未来各运行状态的概率。平滑则利用后续测量,修正对状况何时开始恶化的估计。

如果温度还直接依赖其先前的值,可以用一条边 Tt−1→TtT_{t-1}\to T_t 表示温度的持续性。如果在给定 HtH_t 后,温度与振动之间仍存在未被解释的依赖,模型可能需要增加依赖关系或隐变量。

应用、局限与因果解释

动态贝叶斯网络用于设备监测、跟踪、语音与活动识别、环境建模,以及其他涉及不确定序贯观测的场景。其独特价值在于,能够以结构化方式表示多个相互作用的过程,而不是将它们视为单一且不加区分的状态。

主要局限包括:

  • **状态空间膨胀:**即使每个变量只有少量可能取值,组合大量变量仍可能产生维数灾难。
  • **近似误差:**即使生成模型很好,若推断所用的近似方法不够准确,仍可能得到较差的估计。
  • **时间结构设定错误:**滞后长度、采样间隔或条件独立假设不正确,都可能损害预测效果。
  • **可识别性:**不同的隐结构或参数设置,可能对应相同的可观测分布。
  • **动态规律变化:**当运行工况或观测机制发生变化时,跨时间共享参数的做法可能失效。
  • **观测过程:**观测缺失并非天然无害。当观测是否缺失取决于状态时,可能需要对观测机制进行显式建模。

动态贝叶斯网络中的有向边,表达的是所选因子分解中的概率依赖关系,并不自动代表因果关系。时间上的先后顺序有助于约束可能的解释,但不能消除混杂、隐藏的共同原因或时间聚合带来的影响。将动态贝叶斯网络用于因果推断,还需要额外的因果假设,并明确干预将如何改变模型。