平稳过程 · aiwiki.page

平稳过程是指时间指标平移后，统计描述保持不变的随机过程。平稳性关注的是支配观测值的概率规律，而不是单条样本路径是否保持恒定。平稳性主要有两种定义：严格平稳性要求所有有限维分布在时间平移下保持不变；弱平稳性要求一阶矩和二阶矩在时间平移下保持不变。这一区别在时间序列分析和信号处理中十分重要，因为这些领域借助共同的统计结构来解释不同时刻的观测值。(sia.mit.edu)

严格平稳性

设 $X=\{X_t:t\in T\}$ 是定义在同一概率空间上的一族随机变量，其指标集通常为 $T=\mathbb Z$ 或 $T=\mathbb R$ 。如果对于任意正整数 $n$ 、任意选取的时刻 $t_1,\ldots,t_n$ ，以及任意允许的平移量 $h$ ，都有

(X_{t_1},\ldots,X_{t_n}) \overset{d}{=} (X_{t_1+h},\ldots,X_{t_n+h}),

则该过程是严格平稳的。

这里， $\overset{d}{=}$ 表示联合概率分布相同。如果指标集受到限制，平移前后的两组时刻都必须属于该指标集。(sia.mit.edu)

取 $n=1$ 可知，各个观测值具有相同的边缘概率分布。但仅有边缘分布相同还不够：观测值之间的关系也必须在时间平移下保持不变。严格平稳性并不要求均值或有限方差存在；它是分布层面的性质，而不是关于矩的条件。(bookdown.org)

弱平稳性

如果一个实值过程具有有限二阶矩，并且满足

\mathbb E[X_t]=\mu,\qquad \operatorname{Cov}(X_{t+h},X_t)=\gamma(h),

则称该过程是弱平稳的，也称广义平稳的或协方差平稳的。

因此，它的期望值为常数，协方差仅取决于滞后 $h$ ，而不取决于绝对时刻。由 $\operatorname{Var}(X_t)=\gamma(0)$ 可知，它的方差也为常数。当 $\gamma(0)>0$ 时，自相关函数为

\rho(h)=\frac{\gamma(h)}{\gamma(0)}.

该函数描述了各个时间间隔下的相关关系。(online.stat.psu.edu)

当有限二阶矩存在时，严格平稳性蕴含弱平稳性。反之通常不成立，因为一阶矩和二阶矩并不能确定任意分布。但对于高斯过程，这两种定义是等价的：每个有限维的多元正态分布都由其均值向量和协方差矩阵确定。仅有各个边缘分布为正态分布，并不足以说明该过程是高斯过程。(sia.mit.edu)

例子与反例

独立同分布序列是严格平稳的；如果其方差有限，它也是弱平稳的。这类序列说明，统计独立性与平稳性可以同时成立，但平稳性并不要求不同时刻的观测值相互独立。(stat153.berkeley.edu)

具有相依性的一个典型例子是因果一阶自回归模型：

X_t=c+\phi X_{t-1}+\varepsilon_t,

其中，新息项独立同分布，均值为零，方差为 $\sigma^2$ 。当 $|\phi|<1$ 时，其平稳因果解满足

\mu=\frac{c}{1-\phi},\qquad \gamma(h)=\frac{\sigma^2}{1-\phi^2}\phi^{|h|}.

这些公式描述的是平稳解，并不适用于任意初始条件：从某个固定值出发通常会产生一段暂态期。(online.stat.psu.edu)

相比之下，从零出发、增量相互独立且均值为零、方差为正数 $\sigma^2$ 的随机游走，在整数时刻 $t$ 的方差为 $t\sigma^2$ ，因此不是弱平稳的。标准布朗运动的方差同样为 $t$ 。这两个例子说明，过程本身的平稳性与平稳增量不同：即使过程取值的分布随时间改变，增量的分布仍可能只取决于时间区间的长度。(sia.mit.edu)

平稳性与遍历性

遍历性关注的是：沿单条足够长的样本路径计算的平均值，能否再现总体平均值。对于可积、严格平稳且具有遍历性的序列，遍历定理给出

\frac1n\sum_{t=1}^{n}X_t \longrightarrow \mathbb E[X_0] \quad\text{几乎必然成立}.

这将大数定律所体现的平均值解释推广到了独立观测之外的情形。(ocw.mit.edu)

仅有平稳性并不能保证上述平均值收敛到总体均值。设每个时刻都有 $X_t=Z$ ，其中 $Z$ 是一个非退化的可积随机变量。该过程严格平稳，但其样本均值始终等于 $Z$ ，而一般不会趋近于 $\mathbb E[Z]$ 。时间齐次的马尔可夫链提供了另一个需要区分的情形：以平稳分布作为初始分布，会使所得过程严格平稳；而任意初始分布则未必如此。(mit.edu)

谱描述

弱平稳性使得时间上的相依关系可以在频域中描述。如果离散时间自协方差序列绝对可和，那么以每次观测对应的周期数为频率 $\nu$ 的单位，其谱密度可写为

f(\nu)=\sum_{h=-\infty}^{\infty} \gamma(h)e^{-2\pi i\nu h}, \qquad -\tfrac12\leq\nu\leq\tfrac12.

逆关系为

\gamma(h)=\int_{-1/2}^{1/2} e^{2\pi i\nu h}f(\nu)\,d\nu.

因此，自协方差与谱密度构成一对傅里叶变换。对谱密度积分可得到方差。更一般地，平稳协方差序列具有谱测度，但该测度未必具有密度。(online.stat.psu.edu)

在统计建模中的应用

在统计学中，平稳性使得不同时刻的观测值可以共同用于推断均值、依赖滞后的协方差等统计量。相依性仍会影响估计，而可靠的时间平均还需要额外假设。趋势、随时间变化的方差，以及随时间变化的相依结构，都违背弱平稳性。差分可以消除某些形式的非平稳性，例如将随机游走转化为其增量序列，但并不能保证总是得到平稳过程。(stat153.berkeley.edu)