方差分析(ANOVA)是统计学中的一类方法,将定量响应变量的变异分解为与解释因素有关的成分和无法解释的误差成分。其最广为人知的应用,是对两个或多个总体均值是否相等进行统计假设检验。尽管名称中含有“方差”,这一应用实际上是通过考察方差的估计值来比较均值,而不是主要检验总体方差是否相等。方差分析与实验设计及线性统计模型密切相关。(itl.nist.gov)
历史发展
罗纳德·费希尔及其同事在洛桑研究所将方差分析发展为分析农业实验的核心方法。费希尔于1925年出版的《研究工作者统计方法》推动了这一方法的传播。方差分析的发展,将实验结果的统计分析与处理安排、重复设置以及实验变异来源的有计划组织联系起来。(rothamsted.ac.uk)
单因素模型
单因素方差分析考察一个分类因素,该因素的各个类别称为水平。例如,对采用三种制造工艺生产的产品进行测量,所得数据构成三个组。固定效应模型为
其中, 是第 组的第 个观测值, 是该组的总体均值, 是随机误差。等价地,可写成 ,并对组效应 施加约束,以保证参数可识别。原假设为
备择假设指出,各组均值不全相等;它并不要求每一对均值都存在差异。(itl.nist.gov)
变异的分解
设第 组包含 个观测值,,各组样本均值和全部样本的总均值分别记为 和 。校正后的总平方和可以精确分解为组间成分和组内成分:
组间成分衡量各组样本均值之间的差异,并以各组样本量加权。组内成分衡量观测值围绕各自组均值的离散程度。两者的自由度分别为 和 ;总自由度为 。各成分除以相应的自由度,便得到均方。这些量构成常规的方差分析表。(itl.nist.gov)
F检验
经典检验统计量为
在原假设成立、误差相互独立且服从正态分布、误差方差相等的条件下,该统计量的抽样分布为F分布,其分子自由度为 ,分母自由度为 。此时,两个均方估计的是同一个误差方差;均值不相等则往往会使分子增大。P值是在这一原假设模型下,F统计量至少与观测值一样大的上尾概率。(itl.nist.gov)
总体检验结果显著,并不能指明哪些组之间存在差异。反过来,未能拒绝原假设,也不能证明各总体均值相等。(itl.nist.gov)
假设与诊断
经典的独立组F检验假设误差满足统计独立性、组内误差服从正态分布,且误差方差相等。正态性要求针对的是观测值相对于组均值的偏差,而不一定是合并后的全部观测值:将均值不同的各组数据合并,可能得到非正态的总体分布。(itl.nist.gov)
诊断分析考察残差,包括其分布、离散程度以及与观测顺序的关系。平衡设计对方差不等具有一定的稳健性,但这并不意味着可以免除方差相等的假设。韦尔奇方差分析提供了另一种均值检验方法,无须假设各组方差相等,而是采用近似的参照分布和调整后的自由度。(itl.nist.gov)
多因素及相关设计
双因素方差分析考察两个因素。在析因设计中,两个因素各水平的所有组合均会出现。模型可以包含各因素的主效应以及统计交互作用:交互作用意味着,一个因素的效应取决于另一个因素所处的水平。对于具有重复观测的平衡设计,总变异可分解为两个主效应、它们的交互作用以及误差的成分。(itl.nist.gov)
固定效应模型关注特意选定的因素水平。在随机效应模型中,各水平代表从更大总体中抽取的随机样本,研究关注的对象也包括方差成分。重复测量方差分析处理对同一实验单位反复收集的观测值。其常规单变量检验可能要求满足球形性,即不同重复测量条件下的观测值两两之差具有相等的方差;违反这一假设可能影响假阳性率。(itl.nist.gov)
比较、效应量与回归
特定的比较可以表示为均值之间的对比。对大量比较进行检验会产生多重检验问题。图基检验用于所有均值的两两比较,而邦费罗尼校正可以对指定的一组检验控制族错误率。联立置信区间既能描述差异的方向,也能反映其不确定性。(itl.nist.gov)
统计显著性不同于效应量。在单因素方差分析中, 描述观测变异中与组别归属有关的比例。在多因素模型中,η平方与偏η平方采用不同的分母,不能互换使用。(graphpad.com)
方差分析也可以表述为线性回归:用指示变量表示组别归属,并通过普通最小二乘法拟合。因此,等方差的单因素F检验可以从相应的回归模型中得到,这使方差分析与更广泛的线性模型比较框架联系起来。(stat.ethz.ch)