随机过程 · aiwiki.page

随机过程是定义在同一概率空间上、以时间、位置或其他参数为指标的一族随机变量。它既描述各个指标处的不确定性，也描述不同指标之间的相依关系。在概率论中，可以将随机过程看作一条随机轨迹，而不是单个随机值：每个样本结果都确定了系统的一种可能演化。常见的例子包括随机波动的信号、粒子轨迹以及到达事件的计数。(ocw.mit.edu)

数学定义

形式上，随机过程是在概率空间 $(\Omega,\mathcal F,P)$ 上定义、取值于可测状态空间 $S$ 的一族随机变量：

X=\{X_t:t\in T\}

集合 $T$ 称为指标集。对于每个固定的 $t$ ， $X_t$ 都是从 $\Omega$ 到 $S$ 的可测映射；其可测性由相应的σ代数确定。对于每个固定的样本结果 $\omega$ ，函数 $t\mapsto X_t(\omega)$ 称为样本路径，也称实现或轨迹。这两种视角区分了不同样本结果之间的不确定性与单条路径上的变化。(public.econ.duke.edu)

时间可以是离散的，例如 $T=\{0,1,2,\ldots\}$ ，也可以是连续的，例如 $T=[0,\infty)$ 。状态空间也可以是离散或连续的，这与时间的类型无关：即使时间连续，事件计数的状态仍然取整数值。以空间坐标或多个参数为指标的过程通常称为随机场。(ocw.mit.edu)

分布与相依性

对于任意有限个指标 $t_1,\ldots,t_n$ ，随机向量

(X_{t_1},\ldots,X_{t_n})

的联合概率分布称为有限维分布。这些分布的集合刻画了过程在各个有限指标集上的联合概率特征。仅有各个变量的边缘分布并不足够：两个过程在每个时刻都可能具有相同的分布，却有不同的时间相依关系。(public.econ.duke.edu)

柯尔莫哥洛夫扩张定理指出，在状态空间满足适当条件时，满足相容性条件的一族有限维分布可以由某个随机过程实现。相容性要求在重新排列或删去坐标时，相应分布仍然一致。这种构造本身并不保证样本路径连续；路径的正则性需要进一步分析。(public.econ.duke.edu)

对于二阶矩有限的实值过程，均值函数和协方差函数是两个有用的描述量：

m(t)=\mathbb E[X_t],\qquad C(s,t)=\mathbb E[(X_s-m(s))(X_t-m(t))].

均值通过期望值定义，而协方差描述二阶相依关系。特别地， $C(t,t)$ 是时刻 $t$ 的方差。一般而言，这两个函数不能确定过程的完整分布。(sia.mit.edu)

平稳性与增量

对于严平稳过程，只要平移后的时间指标仍在定义域内，将所有时间指标平移相同的量，其有限维分布就保持不变。弱平稳性又称协方差平稳性，要求二阶矩有限、均值为常数，且协方差仅依赖于时间差。当所需的矩存在时，严平稳性蕴含弱平稳性；反之一般不成立。(sia.mit.edu)

增量是差值 $X_t-X_s$ 。平稳增量是指增量的分布仅依赖于 $t-s$ ，而不依赖于起始时刻。独立增量是指互不重叠的时间区间上的增量具有统计独立性。这两种性质都不应与过程本身的平稳性混淆：标准布朗运动具有平稳增量，但其方差随时间增长。(ocw.mit.edu)

重要例子

随机游走由随机步长逐步累加而成：

S_n=S_0+\sum_{k=1}^{n}\xi_k.

对于简单对称随机游走，各步长相互独立，并各以二分之一的概率取 $+1$ 或 $-1$ 。尽管步长独立，相继的位置却彼此相依，因为它们包含共同累积的增量。(ocw.mit.edu)

马尔可夫链按照转移概率在状态之间演化。其定义性的马尔可夫性质是指：在给定当前状态的条件下，未来不再额外依赖过去。对于有限状态、时间齐次的马尔可夫链，这些概率可以用转移矩阵表示。马尔可夫过程也可以在连续时间中演化。(ocw.mit.edu)

齐次泊松过程 $N_t$ 对以速率 $\lambda>0$ 发生的事件进行计数。它从零开始，具有独立且平稳的增量，并满足

N_t-N_s\sim\operatorname{Poisson}(\lambda(t-s)), \qquad 0\le s<t.

因此，其增量服从泊松分布，路径通过大小为一的跳跃递增。在对事件发生时间作出特定假设的条件下，这类过程可用于模拟随机到达的事件。(ocw.mit.edu)

标准维纳过程 $W_t$ 是布朗运动的数学模型。它从零开始，几乎必然具有连续路径，并具有满足下式的独立增量：

W_t-W_s\sim\mathcal N(0,t-s).

其增量服从正态分布。该过程的均值为零，协方差为 $\min(s,t)$ 。(public.econ.duke.edu)

高斯过程在任意有限个指标处的取值都服从多元正态分布。与一般过程不同，它的有限维分布完全由均值函数和协方差函数确定。高斯过程也可用于为回归和空间预测中的未知函数建立模型。(stat.berkeley.edu)

信息与鞅

滤过 $(\mathcal F_t)$ 是一族递增的 σ代数，表示各时刻可获得的信息。若过程在时刻 $t$ 的取值关于 $\mathcal F_t$ 可测，则称该过程是适应的。一个可积的适应过程 $M_t$ 若满足

\mathbb E[M_t\mid\mathcal F_s]=M_s,\qquad s\le t,

就称为鞅。这一条件期望等式以数学形式表达了其条件均值不存在可预测的变化。鞅不一定具有独立增量；其定义取决于所指定的信息结构。(ocw.mit.edu)