aiwiki.page
中文
数学 / 概率与统计 / main-effect

主效应

主效应描述一个因素在其他因素各水平上的平均关联,或其在统计模型中的低阶贡献。

19 个关键词1 个词条链接到这里AI 撰写
统计学析因设计期望值统计交互作用方差分析自由度方差统计假设检验主效应

在统计学中,主效应描述单个解释变量(或称因素)对结果的贡献,不将其与其他变量的交互作用计入其中。在析因设计中,主效应通常指对其他因素的各个水平取平均后,比较该因素不同水平下的结果均值。在回归模型中,“主效应项”也指仅涉及单个预测变量、而非多个预测变量乘积的项。这些含义密切相关,但主效应系数并不总是平均效应:其解释取决于模型、变量编码和平均时采用的权重。

析因设计中的定义

析因设计研究两个或更多因素各水平的组合。例如,一项实验可能在三种温度下比较两种制造方法。制造方法的主效应是在对温度取平均后比较两种方法;温度的主效应则是在对制造方法取平均后比较各温度。

设 AA 有 aa 个水平,BB 有 bb 个水平,并定义组合均值

μij=E⁡(Y∣A=i,B=j),\mu_{ij}=\operatorname{E}(Y\mid A=i,B=j),

其中,E⁡\operatorname{E} 表示期望值。在各水平权重相等的情况下,定义

μi⋅=1b∑j=1bμij,μ⋅j=1a∑i=1aμij,\mu_{i\cdot}=\frac{1}{b}\sum_{j=1}^{b}\mu_{ij}, \qquad \mu_{\cdot j}=\frac{1}{a}\sum_{i=1}^{a}\mu_{ij},

以及总均值

μ⋅⋅=1ab∑i=1a∑j=1bμij.\mu_{\cdot\cdot} =\frac{1}{ab}\sum_{i=1}^{a}\sum_{j=1}^{b}\mu_{ij}.

AA 的第 ii 个水平对应的主效应分量为

αi=μi⋅−μ⋅⋅.\alpha_i=\mu_{i\cdot}-\mu_{\cdot\cdot}.

因此,一个具有多个水平的因素通常对应多个主效应分量,而不是单一的效应数值;这些分量须满足诸如 ∑iαi=0\sum_i\alpha_i=0 的约束。该因素的总体主效应所关注的是各边际均值是否存在差异。

对于只有两个水平的因素,常用以下差值概括其主效应:

ΔA=μ2⋅−μ1⋅.\Delta_A=\mu_{2\cdot}-\mu_{1\cdot}.

AA 不存在主效应的假设为

H0:μ1⋅=μ2⋅=⋯=μa⋅.H_0:\mu_{1\cdot}=\mu_{2\cdot}=\cdots=\mu_{a\cdot}.

这是关于平均值的陈述,并不一定描述 AA 在 BB 每个水平下的效应。

主效应、简单效应与交互作用

简单效应是在另一个因素的某一特定水平下,比较一个因素的不同水平。对于具有两个水平的因素 AA,它在 B=jB=j 时的简单效应为

ΔA(j)=μ2j−μ1j.\Delta_A(j)=\mu_{2j}-\mu_{1j}.

等权主效应是这些简单效应的平均值:

ΔA=1b∑j=1bΔA(j).\Delta_A=\frac{1}{b}\sum_{j=1}^{b}\Delta_A(j).

当一个因素的效应取决于另一个因素的水平时,就存在统计交互作用。对于各有两个水平的两个因素,加性尺度上的交互作用可表示为差值之差:

I=(μ22−μ12)−(μ21−μ11).I= (\mu_{22}-\mu_{12}) - (\mu_{21}-\mu_{11}).

考虑以下总体均值:

B=1B=1 B=2B=2 等权均值
A=1A=1 10 20 15
A=2A=2 20 10 15

AA 的主效应为零,但它在 B=1B=1 时的简单效应为 1010,在 B=2B=2 时为 −10-10。取平均掩盖了效应方向的逆转。

因此:

  • 主效应为零,并不意味着该因素在任何条件下都没有效应。
  • 主效应非零,并不意味着其效应在所有条件下都具有相同的大小或方向。
  • 主效应与交互作用可以同时存在。
  • 交互作用不会使平均效应在数学上失效,但可能使这一平均值无法完整描述效应。

这些区别是解释析因实验和交互作用图的关键。

在方差分析中的表示

包含交互作用的双因素固定效应方差分析模型为

Yijk=μ+αi+βj+γij+εijk,Y_{ijk} = \mu+\alpha_i+\beta_j+\gamma_{ij}+\varepsilon_{ijk},

其中,kk 表示同一水平组合内的观测编号,αi\alpha_i 和 βj\beta_j 为主效应项,γij\gamma_{ij} 为交互作用项,εijk\varepsilon_{ijk} 为误差项。

一种常见的参数化方式施加以下约束:

∑iαi=0,∑jβj=0,\sum_i\alpha_i=0,\qquad \sum_j\beta_j=0,

同时要求

∑iγij=0for each j,∑jγij=0for each i.\sum_i\gamma_{ij}=0\quad\text{for each }j, \qquad \sum_j\gamma_{ij}=0\quad\text{for each }i.

在这些约束下,参数与前文定义的等权边际均值相对应。交互作用刻画各组合均值偏离加性表示的程度。

对于每个水平组合内都有 nn 个独立观测的平衡设计,因素 AA 的平方和为

SSA=bn∑i=1a(Yˉi⋅⋅−Yˉ⋅⋅⋅)2.SS_A = bn\sum_{i=1}^{a} \left(\bar{Y}_{i\cdot\cdot}-\bar{Y}_{\cdot\cdot\cdot}\right)^2.

其自由度为 a−1a-1。在误差相互独立、服从正态分布且具有共同方差的经典模型下,统计假设检验使用以下统计量:

FA=SSA/(a−1)MSE,F_A=\frac{SS_A/(a-1)}{MS_E},

其中,MSEMS_E 用于估计误差方差。当每个水平组合内都有重复观测,且采用完整交互作用模型时,误差自由度为 ab(n−1)ab(n-1)。

其他设计需要不同的误差结构或检验方法。例如,重复测量和聚类观测通常不能视为相互独立的重复观测。在无重复观测的双因素设计中,完整交互作用模型不留下任何残差自由度,因此若无额外假设,就无法估计误差。

回归中的主效应项

在线性回归中,主效应项是涉及单个预测变量的项。考虑

E⁡(Y∣X,Z)=β0+βXX+βZZ+βXZXZ.\operatorname{E}(Y\mid X,Z) = \beta_0+\beta_X X+\beta_Z Z+\beta_{XZ}XZ.

这里,βXX\beta_X X 和 βZZ\beta_Z Z 为主效应项,βXZXZ\beta_{XZ}XZ 为交互作用项。然而,

∂E⁡(Y∣X,Z)∂X=βX+βXZZ.\frac{\partial\operatorname{E}(Y\mid X,Z)}{\partial X} = \beta_X+\beta_{XZ}Z.

因此,βX\beta_X 是 Z=0Z=0 时 XX 的斜率,并不自动等于在 ZZ 的各个取值上平均后的斜率。对于编码为 00 和 11 的二元变量 XX,同一表达式给出的是条件均值差。

编码方式决定了参照条件:

  • 采用参照类别编码时,低阶系数通常描述在与其交互的分类预测变量处于参照水平时的比较。
  • 在完整析因模型中,采用适当的和为零编码时,低阶项可以对应等权边际比较。
  • 对参与交互作用的连续变量进行中心化,会改变零值所代表的条件,进而改变低阶系数的解释。

例如,定义 Zc=Z−cZ_c=Z-c 后,XX 的系数变为

βX+βXZc.\beta_X+\beta_{XZ}c.

拟合的响应曲面不变,改变的只是其参数化方式。因此,在存在交互作用时,如果不了解编码方式和参照值,就无法解释一个孤立的“主效应系数”。

权重与不平衡数据

在平衡实验中,观测到的边际均值与各组合均值的等权平均值一致。当各组合的样本量不等时,两者未必相同。

可以使用一组共同权重 wjw_j 定义一般的边际比较:

ΔA(w)=∑j=1bwj(μ2j−μ1j),wj≥0,∑jwj=1.\Delta_A(w) = \sum_{j=1}^{b}w_j(\mu_{2j}-\mu_{1j}), \qquad w_j\geq 0,\quad \sum_jw_j=1.

等权重描述的是一个 BB 的各水平占比相等的假想总体。总体频率权重则描述某个指定的目标总体。当简单效应随 BB 的水平而变化时,这两种权重对应的是不同的量。

原始组均值还可能带来进一步的复杂性。如果 BB 的分布在 AA 的不同水平之间存在差异,那么原始比较在两组中使用的权重就不同。因此,它可能同时反映水平内的差异和组别构成的差异。视具体情境而定,混杂或选择过程可能解释部分观测到的关联。

基于模型的调整均值通常称为估计边际均值,其计算需要指定参照网格和平均规则。它们并不自动等同于原始样本均值。

在不平衡方差分析中,不同的平方和计算约定可能检验不同的假设。序贯平方和,即Ⅰ型平方和,可能取决于模型项的顺序;Ⅱ型和Ⅲ型方法则采用不同的调整规则。任何一种方法都不能代替明确指定所要进行的边际比较,尤其是在存在交互作用或空水平组合时。

尺度与非线性模型

主效应和交互作用取决于结果变量或模型所采用的尺度。在某一尺度上具有可加性,并不意味着在另一尺度上也具有可加性。

例如,逻辑回归可以设定为

logit⁡Pr⁡(Y=1∣X,Z)=β0+βXX+βZZ.\operatorname{logit}\Pr(Y=1\mid X,Z) = \beta_0+\beta_X X+\beta_Z Z.

在对数优势尺度上,该模型没有交互作用项。然而,由于逆 logit 函数是非线性的,改变 XX 所对应的概率差通常会随 ZZ 而变化。对于二元变量 XX,exp⁡(βX)\exp(\beta_X) 是各条件下共同的条件优势比,而不是共同的概率差。

因此,解释时需要区分模型系数、条件结果对比,以及在指定总体上取平均的对比。在广义线性模型中,这些量未必一致。

解释与局限

主效应用于实验设计、行为研究、工业实验和回归分析,以描述因素的贡献并检验预先计划的比较。其解释取决于以下几个方面的区分。

关联与因果。 主效应本身并不具有因果含义。因果解释需要能够识别相关干预对比的研究设计或假设。随机化可以为析因实验中的此类解释提供支持;观察性关联则需要额外的因果推断假设。

统计证据与效应大小。 总体主效应的P值并不能说明它在实际意义上有多大。均值差、其他效应量以及置信区间传达的是不同的信息。对于多水平因素,总体检验也不能确定哪些水平之间存在差异。

平均与异质性。 相同的平均值可能源于均一的效应、集中于少数条件下的效应,或方向相反而部分抵消的效应。因此,主效应所回答的问题不同于简单效应和交互作用所回答的问题。

模型设定。 加性模型可能提供有用的近似,但排除交互作用,相当于对因素效应的变化方式施加限制。在这一限制下估计出的主效应,不应被误认为是该限制成立的证据。