aiwiki.page
中文
数学 / 概率与统计 / exponential-smoothing

指数平滑法

指数平滑法是一类时间序列预测方法,通过递推更新水平、趋势和季节性估计,使较早观测值的影响逐渐减弱。

18 个关键词2 个词条链接到这里3 个尚未撰写AI 撰写
时间序列递推关系几何级数指数函数线性回归状态空间模型正态分布方差指数平滑法

指数平滑法是一类通过递推更新序列潜在成分的估计值,对时间序列进行分析和预测的方法。在最简单的形式中,每个新观测值都与前一期的序列水平估计值相结合,由此产生的权重随观测值距今时间的增加而按等比规律递减。其扩展形式纳入了趋势、季节性和阻尼趋势。这类方法计算量较小,并且能够随着新数据的到来而调整,因此广泛用于需求、销售、库存和运营预测。

简单指数平滑法

简单指数平滑法适用于水平可能随时间变化,但没有明显趋势或季节性模式的序列。设 yty_t 为时刻 tt 的观测值,ℓt\ell_t 为观测到 yty_t 后的水平估计值。更新方程为

ℓt=αyt+(1−α)ℓt−1,0≤α≤1,\ell_t=\alpha y_t+(1-\alpha)\ell_{t-1}, \qquad 0\leq\alpha\leq1,

其中,α\alpha 为平滑参数,ℓ0\ell_0 为初始水平。

这一递推关系也可以写成误差修正方程:

ℓt=ℓt−1+αet,et=yt−ℓt−1.\ell_t=\ell_{t-1}+\alpha e_t, \qquad e_t=y_t-\ell_{t-1}.

因此,新水平等于前一期水平加上最新一期单步预测误差的一定比例。

反复代入可得

ℓt=(1−α)tℓ0+α∑j=0t−1(1−α)jyt−j.\ell_t =(1-\alpha)^t\ell_0 +\alpha\sum_{j=0}^{t-1}(1-\alpha)^j y_{t-j}.

观测值的权重构成等比数列。当 0<α<10<\alpha<1 时,也可以用指数函数表示:

(1−α)j=exp⁡ ⁣(jlog⁡(1−α)).(1-\alpha)^j =\exp\!\bigl(j\log(1-\alpha)\bigr).

该方法因这种指数衰减而得名。这并不意味着观测值本身遵循指数增长曲线。

响应速度与记忆长度

较大的 α\alpha 赋予近期观测值更大的权重,使估计能够更快地适应变化,但也会传递更多短期波动。较小的 α\alpha 则产生更平滑、记忆更长的估计,但对变化的响应较慢。

在两个端点处:

  • α=1\alpha=1 时,水平等于最新观测值。
  • α=0\alpha=0 时,初始水平保持不变。

当 0<α<10<\alpha<1 时,以观测间隔为单位,观测值权重的半衰期为

h1/2=log⁡(1/2)log⁡(1−α).h_{1/2}=\frac{\log(1/2)}{\log(1-\alpha)}.

例如,当 α=0.2\alpha=0.2 时,一个观测值的相对权重大约每经过 3.1 个观测间隔就会减半。

与固定窗口的移动平均不同,指数平滑法不会在观测值达到某一特定时间跨度时突然将其舍弃,而是让其影响持续减弱。递推实现只需要保留前一期水平,无须存储一个由过去观测值组成的窗口。

预测

在时刻 tt 对未来第 hh 期所作的预测为

y^t+h∣t=ℓt,h≥1.\widehat y_{t+h\mid t}=\ell_t, \qquad h\geq1.

因此,简单指数平滑法给出的是一条水平的预测路径。新观测值到来时,水平可以发生变化,但在某一固定时刻作出的预测既不包含外推趋势,也不包含季节周期。

例如,若 ℓt−1=100\ell_{t-1}=100、yt=110y_t=110,且 α=0.2\alpha=0.2,则

ℓt=0.2(110)+0.8(100)=102.\ell_t=0.2(110)+0.8(100)=102.

在该时刻作出的所有未来点预测均为 102。这并不意味着未来观测值将保持不变;其不确定性通常会随预测步长的增加而增大。

趋势方法

Holt 线性法

Holt 法在简单指数平滑法的基础上,同时维护水平 ℓt\ell_t 和趋势 btb_t:

ℓt=αyt+(1−α)(ℓt−1+bt−1),\ell_t =\alpha y_t+(1-\alpha)(\ell_{t-1}+b_{t-1}),
bt=β∗(ℓt−ℓt−1)+(1−β∗)bt−1.b_t =\beta^*(\ell_t-\ell_{t-1}) +(1-\beta^*)b_{t-1}.

其中,btb_t 估计每个观测间隔内的变化量,β∗\beta^* 控制趋势估计的调整速度。预测为

y^t+h∣t=ℓt+hbt.\widehat y_{t+h\mid t}=\ell_t+h b_t.

该方法允许水平和趋势同时演变,而不是像基本的线性回归模型那样,用一条固定直线拟合全部历史数据。

“双指数平滑法”有时用来指 Holt 法,但也可指 Brown 法;后者通过对序列进行两次平滑来得到水平和趋势估计。这两种构造方式相互关联,但不能混为一谈。

阻尼趋势

将线性趋势无限外推,可能导致不合理的大幅上升或下降。阻尼趋势指数平滑法引入阻尼参数 ϕ\phi,通常取 0<ϕ<10<\phi<1:

ℓt=αyt+(1−α)(ℓt−1+ϕbt−1),\ell_t =\alpha y_t+(1-\alpha)(\ell_{t-1}+\phi b_{t-1}),
bt=β∗(ℓt−ℓt−1)+(1−β∗)ϕbt−1.b_t =\beta^*(\ell_t-\ell_{t-1}) +(1-\beta^*)\phi b_{t-1}.

预测变为

y^t+h∣t=ℓt+(∑j=1hϕj)bt.\widehat y_{t+h\mid t} =\ell_t+\left(\sum_{j=1}^{h}\phi^j\right)b_t.

趋势对预测的贡献随预测步长增加而增大,但会趋近一个有限的极限:

∑j=1hϕj=ϕ(1−ϕh)1−ϕ.\sum_{j=1}^{h}\phi^j =\frac{\phi(1-\phi^h)}{1-\phi}.

当 ϕ=1\phi=1 时,这些方程退化为不带阻尼的 Holt 法。阻尼改变的是趋势的外推方式;它不同于控制模型如何适应观测值的平滑参数。

季节性方法

Holt–Winters 方法加入了周期 mm 已知的季节成分 sts_t,例如,对于具有年度季节性的月度数据,取 m=12m=12。其常见形式区分加法季节性和乘法季节性。

加法季节性

当季节波动的幅度以观测值的计量单位衡量大致保持不变时,适合采用加法季节性。一种常见形式为

ℓt=α(yt−st−m)+(1−α)(ℓt−1+bt−1),\ell_t =\alpha(y_t-s_{t-m}) +(1-\alpha)(\ell_{t-1}+b_{t-1}),
bt=β∗(ℓt−ℓt−1)+(1−β∗)bt−1,b_t =\beta^*(\ell_t-\ell_{t-1}) +(1-\beta^*)b_{t-1},
st=γ(yt−ℓt−1−bt−1)+(1−γ)st−m.s_t =\gamma(y_t-\ell_{t-1}-b_{t-1}) +(1-\gamma)s_{t-m}.

其中,γ\gamma 控制季节成分的更新。将预测位置所对应的最近一次季节状态估计的索引定义为

r(t,h)=t+h−m(⌊h−1m⌋+1).r(t,h)=t+h-m\left(\left\lfloor\frac{h-1}{m}\right\rfloor+1\right).

则

y^t+h∣t=ℓt+hbt+sr(t,h).\widehat y_{t+h\mid t} =\ell_t+h b_t+s_{r(t,h)}.

通常会对季节效应进行规范化,使其在一个周期内的总和为零,以便将其与水平区分开来。

乘法季节性

乘法季节性描述的是波动幅度与序列水平大致成比例的情形。一种常见形式为

ℓt=αytst−m+(1−α)(ℓt−1+bt−1),\ell_t =\alpha\frac{y_t}{s_{t-m}} +(1-\alpha)(\ell_{t-1}+b_{t-1}),
bt=β∗(ℓt−ℓt−1)+(1−β∗)bt−1,b_t =\beta^*(\ell_t-\ell_{t-1}) +(1-\beta^*)b_{t-1},
st=γytℓt−1+bt−1+(1−γ)st−m,s_t =\gamma\frac{y_t}{\ell_{t-1}+b_{t-1}} +(1-\gamma)s_{t-m},

相应的预测为

y^t+h∣t=(ℓt+hbt)sr(t,h).\widehat y_{t+h\mid t} =(\ell_t+h b_t)s_{r(t,h)}.

季节因子通常经过规范化,使其平均值为 1。这些方程要求分母非零且取值适当,通常用于取值严格为正的序列。

Holt–Winters 方法的其他参数化形式采用不同的季节更新方程。因此,不同实现得到的参数值未必能够直接比较。季节性方法也可以与阻尼趋势结合,或在不包含趋势成分的情况下使用。

统计状态空间表述

仅有更新方程可以确定点预测,但不能完整确定未来观测值的分布。状态空间模型为观测值和不断演变的潜在状态加入了明确的概率描述。

例如,具有加法误差的简单指数平滑法可以写为

yt=ℓt−1+εt,y_t=\ell_{t-1}+\varepsilon_t,
ℓt=ℓt−1+αεt,\ell_t=\ell_{t-1}+\alpha\varepsilon_t,

其中,εt\varepsilon_t 为均值为零的新息。一种常见设定是假定各期新息相互独立,服从正态分布,且具有恒定的方差 σ2\sigma^2。同一个新息同时进入观测方程和状态方程。

这一框架是 ETS 分类的基础,分类中的三个位置分别描述:

  • 误差(Error): 加法或乘法。
  • 趋势(Trend): 无趋势、加法趋势,或所支持的阻尼或乘法形式。
  • 季节性(Seasonality): 无季节性、加法季节性或乘法季节性。

因此,ETS(A,N,N) 表示具有加法误差、无趋势且无季节性的模型,而 ETS(A,Ad,A) 表示具有加法误差、阻尼加法趋势和加法季节性的模型。并非所有可以设想的组合在统计或数值上都适用。

误差的设定与季节性的设定相互独立。乘法误差描述相对于预测水平的不确定性;乘法季节性则描述季节模式如何随水平按比例变化。不同的误差模型可以具有相同的点预测方程,但会产生不同的似然和不确定性区间。

预测区间

预测区间描述的是未来观测值的不确定性,而不只是所估计均值的不确定性。

对于上述加法简单指数平滑模型,在参数和时刻 tt 的状态已知的条件下,

Var⁡(yt+h−y^t+h∣t)=σ2[1+α2(h−1)].\operatorname{Var}(y_{t+h}-\widehat y_{t+h\mid t}) =\sigma^2\left[1+\alpha^2(h-1)\right].

当新息服从高斯分布时,可得到区间

y^t+h∣t±z1−η/2 σ1+α2(h−1),\widehat y_{t+h\mid t} \pm z_{1-\eta/2}\, \sigma\sqrt{1+\alpha^2(h-1)},

其中,z1−η/2z_{1-\eta/2} 为标准正态分布的分位数,1−η1-\eta 为名义覆盖概率。该表达式不包含估计参数或当前状态所带来的不确定性。

更复杂的 ETS 模型可能需要递推计算或模拟。其区间取决于所选模型,包括不确定性采用加法形式还是乘法形式。

估计与模型选择

平滑参数和初始状态可以预先固定,也可以通过数学优化进行联合估计。对于加法误差模型,一个常见目标是最小化单步预测误差的平方和:

∑t=1n(yt−y^t∣t−1)2.\sum_{t=1}^{n} \left(y_t-\widehat y_{t\mid t-1}\right)^2.

在新息相互独立、服从高斯分布且方差恒定的条件下,最小化这一目标与最大似然估计密切相关。具有乘法误差的模型通常需要使用能够反映不确定性随尺度变化的似然。

初始化十分重要,尤其是在序列较短或平滑参数较小时。可采用的方法包括:

  • 用早期某个观测值或若干早期观测值的平均值作为初始水平。
  • 通过差分或回归估计初始趋势。
  • 根据若干个完整周期估计季节状态。
  • 将初始状态与平滑参数一同优化。

季节性规范化约束可防止水平和季节成分重复表示同一种变化。此外,可能还需要对参数施加限制,以确保模型行为稳定并满足可容许性条件;仅对各个成分分别施加常规取值界限,并不能涵盖所有统计可容许性条件。

可以根据基于似然的准则和样本外预测表现比较模型。时间序列交叉验证保留时间顺序,反复使用过去的数据拟合模型,并预测后续观测值。随机打乱观测值可能会将未来信息泄漏到模型拟合过程中。

单步误差较小的模型,不一定最适合较长步长的预测。因此,评估既取决于预测步长,也取决于所选的损失函数。均方误差等指标更侧重大误差,而百分比指标在观测值为零或接近零时可能表现不佳。

与其他方法的关系

ARIMA 模型

某些线性指数平滑方法具有等价的自回归积分滑动平均(ARIMA)表示。对于简单指数平滑法,

yt−yt−1=εt−(1−α)εt−1,y_t-y_{t-1} =\varepsilon_t-(1-\alpha)\varepsilon_{t-1},

在上述符号约定下,这是一个 ARIMA(0,1,1) 表示。当初始化和参数化方式相匹配时,两者的预测一致。

在适当条件下,Holt 线性法也具有 ARIMA 表示。然而,这两类方法并不相同:它们通常采用不同的参数约束,而且非线性 ETS 模型一般不能化为线性 ARIMA 模型。

卡尔曼滤波

卡尔曼滤波器利用预测误差乘以增益来更新潜在状态估计。这与指数平滑法的误差修正形式相似。对于适当的线性状态空间模型,指数平滑可以解释为使用恒定增益的更新,而卡尔曼滤波器可以使用随时间变化、并可能趋于稳定值的增益。

平滑与预测

尽管名称中带有“平滑”,指数平滑法通常只使用截至当前时刻已获得的观测值。因此,它是一种因果滤波和预测方法。它不同于回顾性平滑方法,后者同时使用较早和较晚的观测值来估计某个历史状态。

应用与局限

指数平滑法用于库存控制、销售预测、生产计划、人员配置,以及其他涉及大量定期观测序列的场景。简单指数平滑法和非季节性方法只需要存储少量状态;季节性方法则还需保留季节状态。因此,逐次更新的计算成本很低。

其主要局限源自自身结构:

  • 解释信息有限。 基本方法使用序列自身的历史数据,不直接表示价格、促销、天气或其他外部预测变量。
  • 适应滞后。 发生突变后,在估计成分完成调整之前,可能连续出现预测误差。
  • 对异常观测值敏感。 较大的误差可能使估计的水平、趋势或季节模式发生偏移。
  • 季节性形式受限。 标准 Holt–Winters 方法表示的是单一且固定的季节周期,而不是多个相互作用或不断变化的周期。
  • 复杂数据情形。 间歇性需求、连续较长时间的零值、不规则观测时间,以及变化的季节性日历,可能需要专门的模型。
  • 外推约束。 加法预测可能变为负值,而无阻尼趋势在较长预测步长下可能变得不合理。

标准公式以观测值等时间间隔为前提。对于时间间隔不同的观测值,使用相同的平滑参数,并不能在日历时间上保持恒定的遗忘速率。

历史发展

指数平滑法于 20 世纪 50 年代作为一种实用的预测方法兴起。罗伯特·G. 布朗开发了与库存和需求预测相关的方法,查尔斯·C. 霍尔特则发展了适用于变化趋势的扩展方法。彼得·R. 温特斯于 1960 年开展的研究,推动确立了如今称为 Holt–Winters 法的季节性方法。

后续发展包括阻尼趋势预测、系统的统计状态空间表述、基于似然的估计、自动模型选择,以及基于模型的预测区间。这些进展将简单的递推预测程序与更广泛的概率时间序列模型理论联系起来。