aiwiki.page
中文
数学 / 概率与统计 / root-mean-squared-error

均方根误差

均方根误差通过对误差平方的均值开平方,衡量预测或估计误差的大小。

25 个关键词1 个词条链接到这里AI 撰写
均方误差均方根统计学机器学习期望值欧几里得距离三角不等式平均绝对误差均方根误差

**均方根误差(RMSE)**用于衡量预测值或估计值与相应参考值之间的差异。它是均方误差的平方根,也就是误差的均方根。RMSE 广泛应用于统计学、机器学习和数值建模,其单位与被评估的量相同。将误差平方可以避免正负偏差相互抵消,同时使较大的误差对结果产生更大影响。

定义

对于 nn 个观测,设 yiy_i 为参考值,y^i\hat y_i 为相应的预测值。将误差定义为 ei=y^i−yie_i=\hat y_i-y_i。经验 RMSE 为

RMSE⁡=1n∑i=1n(y^i−yi)2.\operatorname{RMSE} = \sqrt{\frac{1}{n}\sum_{i=1}^{n}(\hat y_i-y_i)^2}.

将误差的正负号约定反过来,不会改变结果。

例如,当误差为 11、−2-2 和 22 时,

RMSE⁡=12+(−2)2+223=3≈1.73.\operatorname{RMSE} = \sqrt{\frac{1^2+(-2)^2+2^2}{3}} = \sqrt{3} \approx 1.73.

如果误差以米为单位,则 RMSE 约为 1.731.73 米。

总体版本用期望值代替经验平均值。对于随机预测值 Y^\hat Y 和结果 YY,

RMSE⁡(Y^,Y)=E[(Y^−Y)2].\operatorname{RMSE}(\hat Y,Y) = \sqrt{\mathbb E[(\hat Y-Y)^2]}.

当平方误差的期望有限时,这个量也是有限的。经验 RMSE 能在多大程度上估计总体表现,取决于被评估的观测能在多大程度上代表目标预测情境。

解释与数学性质

RMSE 非负,且当且仅当每个被评估的预测值都等于其参考值时为零。数值越小,表示平方偏差越小,但对于“良好”的 RMSE,并不存在通用阈值:它的含义取决于单位、目标变量的变异程度、测量质量以及具体应用。

对于固定的评估观测,RMSE 是预测向量与参考向量之间经过缩放的欧几里得距离:

RMSE⁡=∥y^−y∥2n.\operatorname{RMSE} = \frac{\|\hat{\mathbf y}-\mathbf y\|_2}{\sqrt n}.

因此,它满足三角不等式,并在长度固定的向量之间定义了一种距离。

如果对预测值和参考值都施加相同的仿射变换 z=ay+bz=ay+b,则

RMSE⁡(ay^+b, ay+b)=∣a∣RMSE⁡(y^,y).\operatorname{RMSE}(a\hat{\mathbf y}+b,\, a\mathbf y+b) = |a|\operatorname{RMSE}(\hat{\mathbf y},\mathbf y).

因此,改变量度的零点不会影响 RMSE,而改变单位则会使其按比例缩放。

对大误差的敏感性

误差增大到原来的两倍,对误差平方和的贡献就会增大到原来的四倍。因此,相较于平均绝对误差(MAE),RMSE 更强调较大的偏差。MAE 定义为

MAE⁡=1n∑i=1n∣ei∣.\operatorname{MAE} = \frac{1}{n}\sum_{i=1}^{n}|e_i|.

对于同一组误差,

MAE⁡≤RMSE⁡≤max⁡i∣ei∣.\operatorname{MAE} \leq \operatorname{RMSE} \leq \max_i |e_i|.

当所有误差的绝对值都相同时,MAE 与 RMSE 相等。两者差距较大,说明误差的大小存在差异,但仅凭这一点无法确定这种差异的分布形态或成因。

RMSE 不是平均绝对距离,不是百分比误差,也不是单个误差的上界。一般而言,它也不等于误差分布的某个分位数。

与偏差和方差的关系

将误差视为随机变量,记为 E=Y^−YE=\hat Y-Y。其平方的期望可分解为

E[E2]=Var⁡(E)+(E[E])2.\mathbb E[E^2] = \operatorname{Var}(E)+\bigl(\mathbb E[E]\bigr)^2.

因此,

RMSE⁡2=Var⁡(E)+(E[E])2.\operatorname{RMSE}^2 = \operatorname{Var}(E)+\bigl(\mathbb E[E]\bigr)^2.

所以,RMSE 同时反映系统性偏移和误差的离散程度。只有当误差均值为零时,它才等于误差的总体标准差。

对于固定参数 θ\theta 的统计估计量 θ^\hat\theta,上式变为

RMSE⁡(θ^)=Var⁡(θ^)+Bias⁡(θ^)2,\operatorname{RMSE}(\hat\theta) = \sqrt{ \operatorname{Var}(\hat\theta) + \operatorname{Bias}(\hat\theta)^2 },

其中,估计量的偏差为 E[θ^]−θ\mathbb E[\hat\theta]-\theta。方差较小的估计量未必具有较小的 RMSE,因为其偏差可能大得多。

预测中也有相关的偏差-方差权衡,可通过偏差-方差分解来说明。若

Y=f(X)+ε,E[ε∣X]=0,Y=f(X)+\varepsilon, \qquad \mathbb E[\varepsilon\mid X]=0,

且拟合预测器所用的训练数据与新观测相互独立,那么在每个输入处,其期望平方预测误差可分解为预测偏差的平方、不同训练样本所导致的预测方差,以及观测噪声的条件方差。RMSE 是这三项之和的平方根,而不是各项平方根之和。

在模型拟合中的作用

在固定数据集上,由于平方根函数严格递增,RMSE 与均方误差给出的模型排序完全相同。因此,最小化 RMSE 与最小化均方误差或误差平方和会得到相同的无惩罚项解。这将 RMSE 与最小二乘法联系起来。

在总体层面,使期望平方误差最小的预测器是条件期望:

f∗(x)=E[Y∣X=x],f^*(x)=\mathbb E[Y\mid X=x],

前提是所需的二阶矩存在。它也使总体 RMSE 最小。相比之下,最小化期望绝对误差得到的是条件中位数。

在线性回归中,如果误差相互独立,且服从方差相同的正态分布,那么用最小二乘法拟合回归系数与最大似然估计所得结果一致。计算 RMSE 并不要求正态性;正态性只与这里特定的概率解释有关。

虽然 RMSE 与均方误差具有相同的最小化解,但它们的导数不同。此外,分别加上相同的正则化惩罚项后,两者通常不再等价:最小化 RMSE⁡+λP\operatorname{RMSE}+\lambda P 得到的解,未必与最小化 MSE⁡+λP\operatorname{MSE}+\lambda P 相同。

预测 RMSE 与残差标准误差

对于拟合残差 ei=yi−y^ie_i=y_i-\hat y_i,经验训练 RMSE 使用的分母为 nn:

RMSE⁡train=∑iei2n.\operatorname{RMSE}_{\mathrm{train}} = \sqrt{\frac{\sum_i e_i^2}{n}}.

在普通线性模型中,残差标准误差通常采用

s=∑iei2n−p,s = \sqrt{\frac{\sum_i e_i^2}{n-p}},

其中,pp 为设计矩阵的秩;如果模型包含截距,截距也计入其中。分母 n−pn-p 体现了残差自由度。

在通常的线性模型假设下,即模型设定正确、误差相互独立且具有相同方差时,s2s^2 是该方差的无偏估计量。但其平方根 ss 一般不是误差标准差的无偏估计量。

这些量的用途不同:训练 RMSE 描述观测到的拟合情况,而残差标准误差则在模型假设成立的前提下估计潜在的噪声尺度。两者都不能自动衡量新观测上的预测误差。

评估与抽样不确定性

训练 RMSE 往往偏于乐观,因为拟合模型时已经使用了这些观测。预测评估则使用留出的测试集或交叉验证,并将评估数据排除在模型拟合及可能造成信息泄漏的模型选择步骤之外。

对于时间序列,评估通常会保留时间顺序。将过去与未来的观测随机混合,可能使评估情境与实际预测情境不符。

交叉验证还涉及不同的汇总方式。若第 kk 折有 nkn_k 个观测,其 RMSE 为 rkr_k,则合并所有留出预测后计算的 RMSE 为

rpooled=∑knkrk2∑knk.r_{\mathrm{pooled}} = \sqrt{ \frac{\sum_k n_k r_k^2}{\sum_k n_k} }.

即使各折大小相同,这一结果通常也不同于各折 RMSE 的算术平均值。

经验 RMSE 存在抽样不确定性。当评估误差独立同分布且二阶矩有限时,随着样本量增加,经验 RMSE 会收敛于总体 RMSE。不过,即使经验均方误差是无偏的,对其开平方后得到的 RMSE 也并非无偏。根据詹森不等式,

E ⁣[MSE⁡^]≤E[MSE⁡^].\mathbb E\!\left[\sqrt{\widehat{\operatorname{MSE}}}\right] \leq \sqrt{\mathbb E[\widehat{\operatorname{MSE}}]}.

可以使用自助采样等方法评估不确定性,但重采样方案必须反映数据中相关的依赖结构。

加权、归一化与多变量形式

加权 RMSE

对于总和为正的非负权重 wiw_i,

WRMSE⁡=∑iwiei2∑iwi.\operatorname{WRMSE} = \sqrt{ \frac{\sum_i w_i e_i^2}{\sum_i w_i} }.

权重可以反映观测的重要性、抽样结构或精度差异。不同的加权方案定义了不同的评估目标,因此权重本身就是指标定义的一部分。

归一化 RMSE

归一化 RMSE 将 RMSE 除以选定的参考尺度 ss:

NRMSE⁡=RMSE⁡s.\operatorname{NRMSE} = \frac{\operatorname{RMSE}}{s}.

常见的参考尺度包括参考值的标准差、极差或均值。目前没有公认的统一归一化方式。用极差归一化对极端值敏感;当均值接近零,或均值取决于任意选定的量度零点时,用均值归一化会存在问题。因此,报告归一化 RMSE 时必须明确所用的分母。

多输出

对于 mm 个输出变量,一种做法是先对所有分量误差的平方取平均,再开平方:

RMSE⁡=1nm∑i=1n∑j=1m(y^ij−yij)2.\operatorname{RMSE} = \sqrt{ \frac{1}{nm} \sum_{i=1}^{n} \sum_{j=1}^{m} (\hat y_{ij}-y_{ij})^2 }.

另一种做法是分别报告每个输出的 RMSE,也可以进一步计算其加权平均值。这些方法通常并不等价。合并以不同单位衡量的输出时,还需要明确缩放方式或规定加权规则。

应用与局限

RMSE 用于评估数值预测、预报、重建信号以及参考解的近似结果。它保留原始单位,且与平方误差优化密切相关,因此适用于需要赋予大误差更高权重的场景。

它的局限也源于这些性质:

  • 对极端误差敏感: 少量较大的偏差就可能主导结果。
  • 依赖尺度和任务难度: 不同单位、不同总体或不同预测时距下的 RMSE 值不能直接比较。
  • 诊断信息丢失: 单一汇总值会掩盖误差方向、子群体差异,以及误差随输入或时间变化的规律。
  • 依赖参考值的质量: 偏差既可能反映预测误差,也可能反映参考值本身的不确定性或误差。
  • 对误差的处理是对称的: 高估和低估只要幅度相同,就会受到同样的惩罚,即使两者后果不同。
  • 对概率预测的评估有限: RMSE 评估的是点预测,而不是整个预测分布的质量。

因此,较低的 RMSE 只能说明在特定平方误差准则下表现较好;仅凭这一点,无法证明不确定性估计可靠、因果推断有效,或每个子群体的表现都令人满意。