aiwiki.page
中文
数学 / 概率与统计 / welch-anova

韦尔奇方差分析

韦尔奇方差分析用于检验独立各组的总体均值是否相等,而不要求各组的总体方差相等。

23 个关键词1 个词条链接到这里2 个尚未撰写AI 撰写
方差分析方差原假设第一类错误与第二…样本均值检验统计量自由度F分布韦尔奇方差…

韦尔奇方差分析是一种单因素方差分析,用于检验多个独立组的总体均值是否相同,同时允许各组的总体方差不同。它以按估计精度加权的组均值和近似参考分布,取代经典方差分析中的合并方差计算。当方差不等与各组样本量不等同时出现时,这种方法尤其有用。该方法以伯纳德·刘易斯·韦尔奇命名,他于1951年发表了这一适用于多组比较的检验方法。

目的与假设

对于 kk 个组,令 μi\mu_i 表示第 ii 组的总体均值。韦尔奇方差分析检验的原假设为

H0:μ1=μ2=⋯=μkH_0:\mu_1=\mu_2=\cdots=\mu_k

备择假设则是各组总体均值不全相等。

这是一种总体检验:结果达到统计显著,说明有证据反对所有均值相等的假设,但不能确定哪些组之间存在差异。它也不检验各组是否具有完全相同的分布。尤其需要注意的是,原假设允许各组方差不等。

经典单因素方差分析使用合并的组内方差来评估样本均值之间的差异。当观测值相互独立、服从正态分布,且各组总体方差相同时,其通常采用的参考分布是精确的。当方差不等,即存在异方差性时,该参考分布可能不准确,在各组样本量不相等的非平衡设计中尤其如此。

韦尔奇方法则分别估计各组均值的不确定性。它通过加权和校正,在不要求方差相等的情况下,使发生第一类错误的概率尽量接近选定的显著性水平。

统计表述

假设第 ii 组包含观测值 XijX_{ij},其中 j=1,…,nij=1,\ldots,n_i,且 ni≥2n_i\geq2。样本均值和样本方差定义为

Xˉi=1ni∑j=1niXij,si2=1ni−1∑j=1ni(Xij−Xˉi)2.\bar X_i=\frac{1}{n_i}\sum_{j=1}^{n_i}X_{ij}, \qquad s_i^2=\frac{1}{n_i-1} \sum_{j=1}^{n_i}(X_{ij}-\bar X_i)^2.

使用通常的公式时,各组样本方差都必须为正。Xˉi\bar X_i 的估计方差为 si2/nis_i^2/n_i,因此其逆方差权重为

wi=nisi2.w_i=\frac{n_i}{s_i^2}.

令

W=∑i=1kwi,Xˉw=∑i=1kwiXˉiW.W=\sum_{i=1}^{k}w_i, \qquad \bar X_w=\frac{\sum_{i=1}^{k}w_i\bar X_i}{W}.

加权均值 Xˉw\bar X_w 使估计更精确的组均值具有更大的影响力。它作为检验的参照点;一般而言,它既不是各组均值的算术平均数,也不是将全部观测值合并后计算的均值。

定义

A=∑i=1k(1−wi/W)2ni−1.A=\sum_{i=1}^{k} \frac{(1-w_i/W)^2}{n_i-1}.

韦尔奇检验统计量为

FW=1k−1∑i=1kwi(Xˉi−Xˉw)21+2(k−2)k2−1A.F_W= \frac{ \displaystyle \frac{1}{k-1}\sum_{i=1}^{k} w_i(\bar X_i-\bar X_w)^2 }{ \displaystyle 1+\frac{2(k-2)}{k^2-1}A }.

在原假设成立时,将其与自由度如下的F分布进行近似比较:

ν1=k−1,ν2=k2−13A.\nu_1=k-1, \qquad \nu_2=\frac{k^2-1}{3A}.

分母自由度通常不是整数,同时取决于各组的样本量和估计方差。不应将其替换为经典方差分析中的 N−kN-k,其中 N=∑iniN=\sum_i n_i。

上尾P值为

p=Pr⁡ ⁣(Fν1,ν2≥FW).p=\Pr\!\left(F_{\nu_1,\nu_2}\geq F_W\right).

作为参考的F分布是一种近似,并不是在总体方差任意不等时都成立的精确有限样本分布。

加权与校正为何重要

组均值的标准误估计为 si/nis_i/\sqrt{n_i}。因此,观测值更多或组内变异更小的组,通常能更精确地估计其总体均值。逆方差加权将这些精度差异纳入考虑。

然而,权重本身也是根据数据估计的。如果只是将加权组间平方和与未经调整的参考分布进行比较,就无法充分考虑权重的不确定性。韦尔奇校正对统计量及其分母自由度进行修正,以提高近似的准确性。

这与将所有组内方差合并为一个共同估计值的做法有根本区别。在经典方差分析中,方差不等可能使检验向任一方向偏离:

  • 当样本量较小的组具有较大方差时,经典检验可能偏宽松,过于频繁地拒绝原假设。
  • 当样本量较大的组具有较大方差时,经典检验可能偏保守,拒绝原假设的频率过低。

这些是常见情形,而非普遍规律;偏离程度取决于各组样本量以及方差的配置。

假设与局限

韦尔奇方差分析放宽的是方差相等假设,而不是单因素方差分析的所有假设。

观测值相互独立

标准方法假定组内和组间观测值均具有统计独立性。对同一受试者的重复观测、配对样本以及成簇观测,需要采用能够考虑其依赖关系的方法。异方差校正无法弥补不恰当的实验设计。

分布条件

标准推导假定各总体内部均服从正态分布。如果各组样本量足够大且方差有限,即使原始观测值不服从正态分布,中心极限定理也可以为组均值的近似推断提供依据。

不过,当样本极小、分布严重偏斜、尾部厚重或存在影响较大的离群值时,方法的表现可能变差。如果某些组的样本量仍然很小,仅有较大的总样本量并不能保证近似效果良好。

各组方差可估计

该方法要求分别估计每一组的方差。只有一个观测值的组无法提供方差估计,而样本方差为零的组会使通常的逆方差公式无定义。小样本组的方差估计若很不精确,也可能损害近似效果。

结论的适用范围

韦尔奇方差分析检验的是结果变量在原始测量尺度上的均值。它不检验中位数是否相等,不能确定观测到的差异是否具有实际意义,也不能在缺乏恰当研究设计的情况下确立因果关系。

结果不显著并不意味着有证据表明各组均值等效。这可能是因为统计功效有限、变异较大,或差异较小。

与其他方法的关系

经典单因素方差分析

两种方法检验的都是同一个均值相等假设,但其假设条件和计算方式不同:经典方差分析合并各组的组内方差,而韦尔奇方差分析分别估计各组均值的精度。

当各总体服从正态分布且具有相同方差时,经典方差分析具有精确的F参考分布。韦尔奇检验仍是近似检验,不过在这些条件下,两者的表现往往相近。即使样本方差恰好相等,两种方法的计算结果通常也不完全相同。

韦尔奇两样本t检验

当恰好只有两组时,韦尔奇方差分析等价于双侧韦尔奇两样本t检验。具体而言,

FW=tW2,F_W=t_W^2,

其中

tW=Xˉ1−Xˉ2s12/n1+s22/n2.t_W= \frac{\bar X_1-\bar X_2} {\sqrt{s_1^2/n_1+s_2^2/n_2}}.

分母自由度变为通常的韦尔奇–萨特思韦特近似值:

ν=(s12/n1+s22/n2)2(s12/n1)2n1−1+(s22/n2)2n2−1.\nu= \frac{(s_1^2/n_1+s_2^2/n_2)^2} { \displaystyle \frac{(s_1^2/n_1)^2}{n_1-1} + \frac{(s_2^2/n_2)^2}{n_2-1} }.

此时,上尾F检验的P值等于双侧t检验的P值。

基于秩的检验与稳健替代方法

基于秩的检验通常并不检验与韦尔奇方差分析相同的假设。尤其是,基于秩的方法并不天然就是总体均值检验,它也可能对分布形状或离散程度的差异作出反应。

基于截尾均值、稳健方差估计或恰当构建的重抽样程序的方法,可以应对不同类型的标准模型假设偏离。对结果变量进行变换,也会改变均值比较所处的尺度。

后续比较与结果报告

完成总体检验后,可以通过两两比较或预先设定的对比来研究具体差异。这些分析必须处理方差不等问题,并在适用时考虑多重检验。

当各组方差和样本量可能不同时,盖姆斯–豪厄尔检验是进行所有两两比较的常用方法。另一种方法是进行两两韦尔奇t检验,并采用邦费罗尼校正等多重性调整方法。总体检验本身并不能给出经过多重性调整的两两比较结论。

报告通常包括:

  • 各组的样本量、均值和标准差。
  • 韦尔奇F统计量及两个自由度。
  • P值。
  • 相关的均值差及其置信区间。
  • 后续比较所使用的方法。

应明确界定效应量,而不是根据统计显著性推断效应量。对于基于合并平方和的经典方差分析效应量公式,不能直接将韦尔奇F统计量代入原本适用于普通方差分析表的公式来计算。

历史发展与软件实现

韦尔奇于1951年发表论文《多个均值的比较:另一种方法》(On the Comparison of Several Mean Values: An Alternative Approach),将方差不等情形下的推断扩展到多个均值的比较。该方法属于一类更广泛的近似推断方法,用于总体服从正态分布、但方差未知且不等的情形。

在R中,标准函数 oneway.test 在 var.equal = FALSE 时执行韦尔奇单因素检验,这也是其默认设置。软件可能将输出标为“韦尔奇方差分析”“韦尔奇F检验”或“单因素均值分析”。解释所报告的统计量和自由度时,必须将其与采用合并方差的普通方差分析区分开来。