aiwiki.page
中文
数学 / 概率与统计 / moving-average-model

移动平均模型

移动平均模型将时间序列表示为当前及过去随机冲击的有限加权和,其相关性在固定滞后阶数后消失。

26 个关键词3 个词条链接到这里6 个尚未撰写AI 撰写
时间序列卷积多项式平稳过程自回归模型期望值方差协方差移动平均模…

移动平均模型是一种统计模型,将时间序列中的每个观测值表示为一个常数与当前随机冲击及有限个过去冲击的加权和。阶数为 qq 的模型记作 MA(qq),包含当期及此前 qq 期的冲击。它是描述短程时间依赖关系的基本模型,也是自回归移动平均模型的组成部分。尽管名称相似,它与移动平均平滑方法并不相同:后者对观测数据求平均,而不是对生成数据的机制建模。

定义与记号

实值 MA(qq) 过程具有如下形式:

Xt=μ+εt+θ1εt−1+⋯+θqεt−q,X_t=\mu+\varepsilon_t+\theta_1\varepsilon_{t-1} +\cdots+\theta_q\varepsilon_{t-q},

其中:

  • XtX_t 是时刻 tt 的观测值;
  • μ\mu 是过程的均值;
  • θ1,…,θq\theta_1,\ldots,\theta_q 是固定的实系数;
  • {εt}\{\varepsilon_t\} 是白噪声序列,其均值为零,方差恒定且有限,记为 σ2>0\sigma^2>0,不同时刻之间的协方差为零。

按照惯例,当前冲击的系数固定为一。对于阶数恰为 q>0q>0 的模型,要求 θq≠0\theta_q\ne0。MA(0) 过程就是白噪声加上一个常数。

白噪声的各个观测值不一定相互独立:基本的二阶定义仅要求互不相关。更强的定义则假设冲击独立同分布。如果冲击还服从正态分布,所得到的就是高斯 MA 过程。

有些教材和软件在移动平均系数前使用负号。因此,在不同的符号约定下,同一过程的系数可能符号相反。

滞后算子表示

滞后算子 BB 定义为 BXt=Xt−1BX_t=X_{t-1}。令

θ(B)=1+θ1B+⋯+θqBq,\theta(B)=1+\theta_1B+\cdots+\theta_qB^q,

则模型可写为

Xt−μ=θ(B)εt.X_t-\mu=\theta(B)\varepsilon_t.

这将该过程表示为对白噪声施加有限线性滤波,即离散卷积的结果。相应的多项式

θ(z)=1+θ1z+⋯+θqzq\theta(z)=1+\theta_1z+\cdots+\theta_qz^q

对于模型的可逆性和频域性质至关重要。

均值、方差与依赖关系

由有限方差白噪声驱动的任意有限阶 MA 过程都是弱平稳过程,无论其系数取何值。其均值恒定,协方差仅取决于观测值之间的时间间隔。

这与自回归模型不同,后者的系数必须满足额外条件,才存在通常的因果平稳表示。对于 MA 模型,不应将平稳性与可逆性混为一谈:即使模型不可逆,平稳性仍然成立。

如果冲击独立同分布,MA 过程还具有严格平稳性。

均值与方差

由期望值的线性性质可得,

E⁡[Xt]=μ.\operatorname{E}[X_t]=\mu.

由于不同的白噪声冲击互不相关,方差为

Var⁡(Xt)=σ2(1+∑j=1qθj2).\operatorname{Var}(X_t) =\sigma^2\left(1+\sum_{j=1}^{q}\theta_j^2\right).

模型并不要求系数为正,也不要求系数之和为一。因此,“平均”只是一个沿用至今的历史术语,并不意味着模型必须构成通常意义上的加权平均。

自协方差与自相关

令 θ0=1\theta_0=1。滞后 hh 阶的自协方差为

γ(h)={σ2∑j=0q−∣h∣θjθj+∣h∣,∣h∣≤q,0,∣h∣>q.\gamma(h) = \begin{cases} \displaystyle \sigma^2\sum_{j=0}^{q-|h|}\theta_j\theta_{j+|h|}, & |h|\le q,\\[6pt] 0,& |h|>q. \end{cases}

自相关函数为

ρ(h)=γ(h)γ(0).\rho(h)=\frac{\gamma(h)}{\gamma(0)}.

其典型特征是在滞后 qq 阶之后截尾:超过该阶数的所有总体自相关系数都恰好为零。相隔超过 qq 期的观测值不包含任何共同冲击。

当冲击相互独立时,彼此相隔超过 qq 期的观测值集合也相互独立,这一性质称为 qq 依赖性。如果白噪声仅满足互不相关的条件,则自相关为零并不能确立统计独立性。

这里的截尾指的是总体自相关函数。样本自相关系数会有波动,在超过真实阶数后通常不会恰好为零。

示例:MA(1)

对于

Xt=μ+εt+θεt−1,X_t=\mu+\varepsilon_t+\theta\varepsilon_{t-1},

其方差和自相关系数为

γ(0)=σ2(1+θ2),ρ(1)=θ1+θ2,ρ(h)=0(∣h∣>1).\gamma(0)=\sigma^2(1+\theta^2), \qquad \rho(1)=\frac{\theta}{1+\theta^2}, \qquad \rho(h)=0\quad (|h|>1).

因此,MA(1) 过程始终满足

∣ρ(1)∣≤12.|\rho(1)|\le\frac12.

例如,θ=0.5\theta=0.5 时,ρ(1)=0.4\rho(1)=0.4。一个正向冲击会影响当期和下一期的观测值,随后便不再对该过程产生影响。

可逆性与识别

如果模型的冲击能够表示为当前及过去观测值的稳定、单边无限线性滤波结果,从而被还原出来,则称该 MA 模型是可逆的。

对于有限阶 MA 模型,标准的可逆性条件为

θ(z)≠0for every ∣z∣≤1.\theta(z)\ne0 \quad\text{for every }|z|\le1.

等价地说,θ(z)=0\theta(z)=0 的所有根都必须严格位于复数平面的单位圆之外。在此条件下,

εt=θ(B)−1(Xt−μ)=∑j=0∞πj(Xt−j−μ),\varepsilon_t =\theta(B)^{-1}(X_t-\mu) =\sum_{j=0}^{\infty}\pi_j(X_{t-j}-\mu),

其中,逆滤波系数绝对可和。这也给出了一个无限阶自回归表示。

对于 MA(1),可逆性要求 ∣θ∣<1|\theta|<1,其逆表示可由等比级数得到:

εt=(Xt−μ)−θ(Xt−1−μ)+θ2(Xt−2−μ)−⋯ .\varepsilon_t =(X_t-\mu) -\theta(X_{t-1}-\mu) +\theta^2(X_{t-2}-\mu)-\cdots.

可逆性为何重要

不同的 MA 参数表示可能产生相同的自协方差函数。对于 MA(1),非零系数 θ\theta 及其倒数 1/θ1/\theta 对应相同的一阶滞后自相关系数。将 θ\theta 替换为 1/θ1/\theta,同时将 σ2\sigma^2 替换为 θ2σ2\theta^2\sigma^2,整个自协方差函数保持不变。

对于高斯模型,这些参数表示还会给出相同的有限维概率分布。对于非高斯模型,自协方差相等并不一定意味着分布相同。

将模型限制在可逆区域内,可以消除这种常见的二阶统计识别歧义。这也使冲击能够被解释为可从观测值中还原的新息,并支持基于历史观测进行稳定的预测。

根位于单位圆上的情形属于边界情形。这类模型仍然平稳,但不具有通常的绝对可和逆滤波器,而且标准估计方法在这些边界附近可能表现不同。

与其他模型的关系

移动平均平滑

移动平均平滑方法,例如

St=Xt+Xt−1+⋯+Xt−m+1m,S_t=\frac{X_t+X_{t-1}+\cdots+X_{t-m+1}}{m},

是对观测数据进行的一种变换。相比之下,MA 模型用不可观测的随机冲击来表示观测值。

这两个概念在数学上存在联系:对白噪声应用有限移动平均滤波器,经过适当归一化后就会得到 MA 过程。然而,对任意时间序列应用这种平滑方法,一般并不会得到有限阶 MA 过程。

ARMA 与 ARIMA 模型

自回归滑动平均模型,即 ARMA(p,qp,q),结合了滞后观测值与滞后冲击:

ϕ(B)(Xt−μ)=θ(B)εt,\phi(B)(X_t-\mu)=\theta(B)\varepsilon_t,

其中

ϕ(B)=1−ϕ1B−⋯−ϕpBp.\phi(B)=1-\phi_1B-\cdots-\phi_pB^p.

MA(qq) 模型是 p=0p=0 时的特例。

自回归积分移动平均模型,即 ARIMA 模型,通过加入差分来处理某些形式的非平稳性。此时,移动平均项描述的是差分序列中的依赖关系,而不一定是原始观测值中的依赖关系。

季节性 MA 项涉及相隔一个季节周期的冲击。例如,

Xt−μ=εt+Θεt−sX_t-\mu=\varepsilon_t+\Theta\varepsilon_{t-s}

含有一个周期为 ss 的季节性 MA 成分。

无限移动平均表示

有限阶 MA 模型还应与无限线性过程区分开来,后者的形式为

Xt−μ=∑j=0∞ψjεt−j.X_t-\mu=\sum_{j=0}^{\infty}\psi_j\varepsilon_{t-j}.

当冲击互不相关且方差有限时,系数平方可和足以保证均方收敛。这类过程通常在任意大的滞后阶数上仍具有非零自相关。

沃尔德分解定理说明了移动平均表示更广泛的重要性:协方差平稳过程可以分解为一个确定性成分和一个由互不相关的新息构成的单边移动平均。这种表示通常是无限阶的,而非有限阶的。

估计与模型检验

MA 模型的估计不如通常的自回归估计直接,因为作为解释变量的冲击不可观测。在自回归中,可以直接将滞后观测值用作回归变量;而在 MA 模型中,必须将滞后冲击与参数一同推断出来。

常用方法包括:

  • **最大似然估计:**高斯似然方法利用协方差结构,或采用基于新息的计算方法。当冲击不服从高斯分布时,在适当的假设下,有时可以将高斯似然用作准似然。
  • **条件最小二乘法:**根据试选系数递归计算残差,并使残差平方和最小。结果可能取决于样本期之前的冲击如何初始化。
  • **矩方法:**将理论自协方差与样本自协方差相匹配。这些方法有助于说明模型结构,但可能产生不唯一或不满足模型约束的参数估计。

精确似然计算可以通过状态空间表示和卡尔曼滤波器实现。数值优化通常采用受约束的参数化方式来保证可逆性。

阶数选择

如果样本自相关函数在滞后 qq 阶之后变得很小,这提示可以采用 MA(qq) 模型,但并不能据此最终确定阶数。抽样噪声、异常值、季节性结构以及自回归与移动平均混合的特征,都可能掩盖截尾现象。

MA 模型的偏自相关函数通常表现为拖尾,而非截尾。这与纯自回归模型常见的总体相关模式恰好相反。

阶数选择通常会将这些模式与信息准则、残差诊断以及样本外预测评估结合起来。时间序列的交叉验证必须遵守时间顺序,而不能将过去和未来的观测值随机混合。

拟合模型的残差应当基本不再存在自相关。然而,残差互不相关本身并不能说明它们相互独立、服从正态分布,或具有恒定的条件方差。

预测

假设参数已知,模型可逆,并且可以获得无限的历史观测,从而还原过去的冲击。最优线性 hh 步预测为

X^t+h∣t=μ+∑j=hqθjεt+h−j,1≤h≤q,\widehat X_{t+h\mid t} = \mu+\sum_{j=h}^{q}\theta_j\varepsilon_{t+h-j}, \qquad 1\le h\le q,

以及

X^t+h∣t=μ,h>q.\widehat X_{t+h\mid t}=\mu, \qquad h>q.

只有在时刻 tt 已经发生的冲击才对预测有贡献;未来冲击的预测值为零。如果冲击相互独立,或满足适当的鞅差假设,则该预测也是条件期望。如果仅假设冲击为弱白噪声,一般只能称其为最优线性预测。

令 θ0=1\theta_0=1,则预测误差方差为

Var⁡(Xt+h−X^t+h∣t)=σ2∑j=0min⁡(h−1,q)θj2.\operatorname{Var} \left(X_{t+h}-\widehat X_{t+h\mid t}\right) = \sigma^2 \sum_{j=0}^{\min(h-1,q)}\theta_j^2.

当 h>qh>q 时,它等于无条件方差。因此,纯 MA 模型的线性预测能力只延伸到有限的未来:当预测期足够远时,利用过去观测值已无法得到比直接采用均值更好的预测。

在有限样本中,冲击是估计出来的,而非精确已知的。因此,实际预测的不确定性还可能包括状态初始化和参数估计带来的不确定性。在高斯假设下,预测误差方差是构造预测区间的基础。

频域解释

MA(qq) 过程的功率谱密度为

f(ω)=σ22π∣1+θ1e−iω+⋯+θqe−iqω∣2,−π≤ω≤π.f(\omega) = \frac{\sigma^2}{2\pi} \left| 1+\theta_1e^{-i\omega} +\cdots+\theta_qe^{-iq\omega} \right|^2, \qquad -\pi\le\omega\le\pi.

移动平均多项式决定了模型如何放大或衰减不同频率的成分。MA(1) 系数为正时,相对于高频波动,低频波动得到增强;系数为负时则相反。多项式在单位圆上有根,会使相应频率处的谱密度为零。

应用与局限

当扰动的影响仅持续有限期时,移动平均模型很有用。其应用包括短期预测、测量误差模型,以及计量经济学中的相关误差设定。对更精细的过程进行时间聚合和滤波,也会产生移动平均模型。

以下几项局限值得注意:

  • **记忆有限:**低阶 MA 模型无法很好地表示缓慢衰减的自相关或长程自相关。
  • **不内含趋势:**平稳 MA 模型本身并不能描述持续趋势或变化的均值。
  • **系数恒定:**结构变化和随时间变化的依赖关系需要额外建模。
  • **二阶描述有限:**自协方差无法完整描述非线性依赖关系或变化的条件波动性。
  • **潜在冲击的解释:**估计出的冲击是基于模型的新息,并不必然对应可识别的现实原因。
  • **对边界敏感:**接近单位圆的根可能使求逆、估计和不确定性评估变得困难。

一个尤为重要的边界例子是对独立测量噪声作一阶差分:

Xt=εt−εt−1.X_t=\varepsilon_t-\varepsilon_{t-1}.

这是一个系数为 −1-1 的平稳 MA(1) 过程,但它不满足通常稳定意义下的可逆性。因此,对已经平稳的噪声成分进行差分,可能会引入不可逆的移动平均因子。