aiwiki.page
中文
数学 / chapman-kolmogorov-equations

查普曼–柯尔莫哥洛夫方程

查普曼–柯尔莫哥洛夫方程通过对中间状态求和或积分,描述马尔可夫转移概率在相邻时间区间上的复合规律。

25 个关键词5 个词条链接到这里6 个尚未撰写AI 撰写
马尔可夫性质随机过程条件概率马尔可夫链矩阵(数学)转移矩阵单位矩阵条件独立性查普曼–柯…

查普曼–柯尔莫哥洛夫方程是满足马尔可夫性质的随机过程的转移概率所遵循的复合恒等式。它表明,较长时间区间上的转移可以分解为两个相邻时间区间上的转移,同时计入所有可能的中间状态。在离散状态空间中,这需要求和;在一般状态空间中,则需要对转移概率测度积分。这些方程建立了局部转移规则与较长时间演化之间的基本联系。(gordanz.github.io)

离散状态情形

设 XtX_t 是状态空间 SS 为有限集或可数无限集的马尔可夫过程。记

pij(s,t)=Pr⁡(Xt=j∣Xs=i)p_{ij}(s,t)=\Pr(X_t=j\mid X_s=i)

为该过程从时刻 ss 的状态 ii 转移到时刻 tt 的状态 jj 的条件概率。对于 s≤u≤ts\leq u\leq t,方程为

pij(s,t)=∑k∈Spik(s,u) pkj(u,t).\boxed{ p_{ij}(s,t)= \sum_{k\in S}p_{ik}(s,u)\,p_{kj}(u,t). }

中间状态 kk 遍历整个状态空间。无论转移规则是否随时间变化,这一恒等式都成立。(stat.berkeley.edu)

对于时间齐次的马尔可夫链,转移概率仅取决于经过的时间。在离散时间情形下,定义

pij(n)=Pr⁡(Xn=j∣X0=i).p_{ij}^{(n)}=\Pr(X_n=j\mid X_0=i).

则对于非负整数 m,nm,n,有

pij(m+n)=∑k∈Spik(m)pkj(n).p_{ij}^{(m+n)} =\sum_{k\in S}p_{ik}^{(m)}p_{kj}^{(n)}.

若 P(n)=(pij(n))P^{(n)}=(p_{ij}^{(n)}),上式可写为矩阵恒等式

P(m+n)=P(m)P(n).P^{(m+n)}=P^{(m)}P^{(n)}.

因此,若 PP 是一步转移矩阵,则

P(n)=Pn,P(0)=I,P^{(n)}=P^n,\qquad P^{(0)}=I,

其中 II 是单位矩阵。P(n)P^{(n)} 中的上标表示经过 nn 步的转移概率;右侧的 PnP^n 则是通常的矩阵乘方。(gordanz.github.io)

概率推导

推导结合了全概率公式与马尔可夫性质。以时刻 uu 的状态为条件进行分解,得到

Pr⁡(Xt=j∣Xs=i)=∑k∈SPr⁡(Xt=j∣Xu=k,Xs=i)×Pr⁡(Xu=k∣Xs=i).\begin{aligned} \Pr(X_t=j\mid X_s=i) &=\sum_{k\in S} \Pr(X_t=j\mid X_u=k,X_s=i)\\ &\qquad\qquad{}\times \Pr(X_u=k\mid X_s=i). \end{aligned}

根据马尔可夫性质,可以从第一个因子中去掉较早时刻的条件 Xs=iX_s=i:

Pr⁡(Xt=j∣Xu=k,Xs=i)=Pr⁡(Xt=j∣Xu=k).\Pr(X_t=j\mid X_u=k,X_s=i) =\Pr(X_t=j\mid X_u=k).

代入即得查普曼–柯尔莫哥洛夫方程。这表达的是条件独立:中间状态包含了确定未来转移规律所需的过去信息。它并不意味着相继出现的状态在无条件意义下相互独立。(gordanz.github.io)

一般状态空间与转移密度

在可测空间 (E,E)(E,\mathcal E) 上,转移由马尔可夫核

Ks,t(x,A)K_{s,t}(x,A)

描述,其中 x∈Ex\in E,A∈EA\in\mathcal E。固定 xx 时,它是关于可能的后续状态的概率分布;固定 AA 时,它是 xx 的可测函数。一般形式的恒等式为

Ks,t(x,A)=∫EKu,t(y,A) Ks,u(x,dy).\boxed{ K_{s,t}(x,A) =\int_E K_{u,t}(y,A)\,K_{s,u}(x,dy). }

这个积分以从 xx 到达各中间状态 yy 的概率为权重,对从这些中间状态到达 AA 的概率进行加权平均。(stat.berkeley.edu)

如果这些核相对于同一个参考测度 μ\mu 具有概率密度函数,则相应的密度恒等式为

p(s,x;t,z)=∫Ep(s,x;u,y) p(u,y;t,z) μ(dy),p(s,x;t,z) =\int_E p(s,x;u,y)\,p(u,y;t,z)\,\mu(dy),

除非能够选取具有适当正则性的密度版本,否则这里的等式应理解为对终点变量几乎处处成立。转移核形式更为一般:它也涵盖离散、混合和奇异的转移规律,而这些规律可能不存在通常意义上的密度。(stat.berkeley.edu)

对于连续状态,Ks,t(x,⋅)K_{s,t}(x,\cdot) 应理解为指定的转移核,而不是涉及事件 Xs=xX_s=x 的初等概率比值,因为该事件的概率可能为零。(stat.berkeley.edu)

半群解释

对于时间齐次过程,用 KtK_t 表示时长为 tt 的转移核。则

Ks+t(x,A)=∫EKt(y,A) Ks(x,dy).K_{s+t}(x,A) =\int_E K_t(y,A)\,K_s(x,dy).

在有界可测函数上定义算子

(Ttf)(x)=∫Ef(y) Kt(x,dy).(T_tf)(x)=\int_E f(y)\,K_t(x,dy).

这些算子满足

Ts+t=TsTt,T0=I.T_{s+t}=T_sT_t,\qquad T_0=I.

因此,查普曼–柯尔莫哥洛夫方程表达了定义马尔可夫半群的复合规律。从概率角度看,Ttf(x)T_tf(x) 是过程从 xx 出发时 f(Xt)f(X_t) 的期望值。在所选函数空间上的强连续性是一项额外的分析条件,并不包含在复合恒等式本身之中。(numerik.mi.fu-berlin.de)

与柯尔莫哥洛夫微分方程的关系

对于有限状态、时间齐次的连续时间马尔可夫链,设 P(t)P(t) 为其转移矩阵。复合规律为

P(s+t)=P(s)P(t).P(s+t)=P(s)P(t).

其无穷小生成元是速率矩阵

Q=lim⁡h↓0P(h)−Ih.Q=\lim_{h\downarrow0}\frac{P(h)-I}{h}.

对复合恒等式求导,得到柯尔莫哥洛夫前向和后向方程:

P′(t)=P(t)Q和P′(t)=QP(t),P'(t)=P(t)Q \quad\text{和}\quad P'(t)=QP(t),

两式分别对应前向方程和后向方程,且 P(0)=IP(0)=I。在有限状态情形下,它们的唯一解是矩阵指数

P(t)=etQ.P(t)=e^{tQ}.

前向方程将转移末尾的一小段时间区间单独分离出来;后向方程则将开头的一小段时间区间单独分离出来。(mpaldridge.github.io)

查普曼–柯尔莫哥洛夫方程本身是复合恒等式,而非微分方程。从这些恒等式过渡到微分方程,需要适当的极限与正则性假设。在无限状态空间中,交换极限与无穷求和的次序需要论证,而爆炸现象——即在有限时间内发生无穷多次跳跃——会带来额外的复杂性。(metaphor.ethz.ch)

示例

对于两状态转移矩阵

P=(0.80.20.30.7),P= \begin{pmatrix} 0.8&0.2\\ 0.3&0.7 \end{pmatrix},

直接相乘得到

P2=(0.700.300.450.55).P^2= \begin{pmatrix} 0.70&0.30\\ 0.45&0.55 \end{pmatrix}.

例如,从状态 11 经过两步转移到状态 22 的概率为

0.8(0.2)+0.2(0.7)=0.30.0.8(0.2)+0.2(0.7)=0.30.

这两项分别对应中间状态 11 和 22。

对于标准一维布朗运动,时长 t>0t>0 的转移密度为

gt(y−x)=12πtexp⁡ ⁣[−(y−x)22t].g_t(y-x)= \frac{1}{\sqrt{2\pi t}} \exp\!\left[-\frac{(y-x)^2}{2t}\right].

其查普曼–柯尔莫哥洛夫恒等式为

gs+t(z−x)=∫Rgs(y−x) gt(z−y) dy.g_{s+t}(z-x) =\int_{\mathbb R} g_s(y-x)\,g_t(z-y)\,dy.

这是正态分布的卷积恒等式:方差分别为 ss 和 tt 的独立高斯增量相加,得到方差为 s+ts+t 的增量。同一转移密度也是扩散系数为 1/21/2 的热方程的基本解。(math.ucdavis.edu)

用途与适用范围

这些方程可用于推演状态分布。采用行向量约定时,齐次离散时间链的初始分布 μ0\mu_0 按照

μn=μ0Pn\mu_n=\mu_0P^n

演化。因此,这些方程将一步转移模型与多步预测联系起来。(gordanz.github.io)

它们也为利用转移核构造马尔可夫过程提供了一致性条件:插入或移除中间观测时刻后,所得有限维分布必须相容。在适当的状态空间假设下,可以将这些分布与柯尔莫哥洛夫扩张定理结合起来构造过程。这样的构造本身并不能保证样本路径连续;路径的正则性还需要进一步论证。(users.math.msu.edu)

参考来源

  1. Chapter 5 Markov Chains — Lecture notes for “Introduction to Stochastic Processes”gordanz.github.io
  2. A guide to Brownian motion and related stochastic processesstat.berkeley.edu
  3. Lecture notes for Numerik IVc — Numerics for Stochastic Processesnumerik.mi.fu-berlin.de
  4. Section 18 Forward and backward equations — MATH2750 Introduction to Markov Processesmpaldridge.github.io
  5. Lecture notes on stochastic processesmetaphor.ethz.ch
  6. Lecture Notes on Applied Mathematicsmath.ucdavis.edu