aiwiki.page
中文
数学 / 概率与统计 / standardized-mean-difference

标准化均值差

标准化均值差以标准差为单位表示两个均值之差,便于比较采用不同测量尺度的结果。

22 个关键词1 个词条链接到这里AI 撰写
效应量标准差统计学期望值概率分布样本均值方差自由度标准化均值…

标准化均值差(SMD)是一类效应量指标,用于表示两个均值之差相对于所选标准差的大小。与原始均值差不同,它没有物理测量单位。在统计学中,标准化均值差广泛用于描述组间差异、合并采用不同尺度测量的研究结果,以及评估比较组之间的协变量平衡。常见形式包括 Cohen's dd、Hedges' gg 和 Glass's Δ\Delta,它们的主要区别在于标准化所用的分母,以及对小样本偏差的处理方式。

定义与解释

对于均值分别为 μ1\mu_1 和 μ0\mu_0 的两个总体,总体标准化均值差可写为

δ=μ1−μ0σref,\delta=\frac{\mu_1-\mu_0}{\sigma_{\mathrm{ref}}},

其中,σref>0\sigma_{\mathrm{ref}}>0 是指定的参照标准差。总体均值是期望值;参照标准差描述一个或两个总体的变异程度。

σref\sigma_{\mathrm{ref}} 的选择是定义的一部分,而不只是计算细节。如果两个总体具有相同的标准差 σ\sigma,自然的定义是

δ=μ1−μ0σ.\delta=\frac{\mu_1-\mu_0}{\sigma}.

当两个总体的方差不同时,可以选用多种合理的标准化分母,而它们得出的效应量未必相同。

SMD 为 0.50.5,表示第一个均值比第二个均值高出所选参照标准差的一半。这并不意味着第一个均值高出 50%,也不意味着第一组中的每个人得分都更高。零表示均值相等,而不表示概率分布相同。

正负号取决于相减的顺序和测量尺度的方向。例如,正差值既可能表示表现较好,也可能表示表现较差,这取决于高分代表成功还是困难。

主要估计量

Cohen's dd

对于两个独立样本,设 xˉ1,xˉ0\bar{x}_1,\bar{x}_0 为样本均值,s1,s0s_1,s_0 为样本标准差,n1,n0n_1,n_0 为样本量。Cohen's dd 的一种常见定义为

d=xˉ1−xˉ0sp,d=\frac{\bar{x}_1-\bar{x}_0}{s_p},

其中

sp=(n1−1)s12+(n0−1)s02n1+n0−2.s_p= \sqrt{ \frac{(n_1-1)s_1^2+(n_0-1)s_0^2} {n_1+n_0-2} }.

这里,sp2s_p^2 是共同总体方差的合并估计值,其自由度为

ν=n1+n0−2\nu=n_1+n_0-2

。

这个分母按照各样本的自由度对样本方差加权。它不是把所有观测值合在一起计算的标准差:后者还会反映组间均值的差异。

“Cohen's dd”这一名称有时也用于采用其他标准化约定的指标。因此,在比较报告中的数值时,应明确所用公式或分母。

Hedges' gg

从方差相等的正态分布总体中独立抽样时,dd 存在偏离零方向的小样本估计量的偏差。Hedges' gg 对此进行校正:

g=J(ν)d,g=J(\nu)d,

其中

J(ν)=Γ(ν/2)ν/2 Γ((ν−1)/2).J(\nu)= \frac{\Gamma(\nu/2)} {\sqrt{\nu/2}\,\Gamma((\nu-1)/2)}.

这里,Γ\Gamma 为伽马函数。一种广泛使用的近似为

J(ν)≈1−34ν−1.J(\nu)\approx 1-\frac{3}{4\nu-1}.

在正态、等方差模型下,对于采用合并标准差的估计量,只要相关期望存在,这一精确校正就能使 gg 成为 δ\delta 的无偏估计量。校正在小样本中影响最为明显,校正因子则随样本量增加而趋近于一。

Hedges' gg 在元分析中尤为常见,因为系统性的小样本偏差可能在多项研究中累积。

Glass's Δ\Delta

Glass's Δ\Delta 使用指定参照组或对照组的标准差进行标准化:

Δ=xˉ1−xˉ0s0.\Delta=\frac{\bar{x}_1-\bar{x}_0}{s_0}.

当干预不仅可能改变均值,还可能改变变异程度,从而使合并分母难以解释时,这一定义很有用。它所估计的总体目标量为

μ1−μ0σ0,\frac{\mu_1-\mu_0}{\sigma_0},

而不是以共同标准差或平均标准差进行标准化的差值。

Glass's Δ\Delta 也可能存在有限样本偏差;使用对照组标准差作为分母,本身并不能校正偏差。

示例

假设两个独立组各有 50 个观测值,样本均值分别为 75 和 70,样本标准差均为 10。那么

sp=10,d=75−7010=0.5.s_p=10,\qquad d=\frac{75-70}{10}=0.5.

当 ν=98\nu=98 时,

g≈(1−3391)0.5≈0.496.g\approx \left(1-\frac{3}{391}\right)0.5 \approx 0.496.

因此,估计的差异约为半个标准差。由于总样本量较大,校正幅度很小。

如果两组得分都按 y=a+bxy=a+bx 进行变换,且 b>0b>0,则均值差和标准差都会乘以 bb,因此 SMD 不变。若 bb 为负,其正负号就会反转。非线性变换通常会改变其大小。

抽样不确定性与假设检验

SMD 是一个具有抽样不确定性的估计值。其精确程度取决于样本量、各组样本的分配、潜在分布以及所用的分母。

对于等方差模型下的独立组,一种常用的大样本近似为

Var⁡^(d)≈n1+n0n1n0+d22(n1+n0−2).\widehat{\operatorname{Var}}(d) \approx \frac{n_1+n_0}{n_1n_0} + \frac{d^2}{2(n_1+n_0-2)}.

将该表达式乘以 J(ν)2J(\nu)^2,即可得到相应 gg 的近似方差。更精细的估计量会采用不同的有限样本调整。

标准误是估计抽样方差的平方根。基于正态近似的置信区间形式为

g±z1−α/2SE⁡(g),g\pm z_{1-\alpha/2}\operatorname{SE}(g),

其中,z1−α/2z_{1-\alpha/2} 是相应的标准正态分位数。

对于通常采用合并方差的双样本 tt 检验,

t=d1/n1+1/n0.t=\frac{d}{\sqrt{1/n_1+1/n_0}}.

在观测值相互独立、服从正态分布且方差相等的条件下,当总体均值差不为零时,该统计量服从非中心学生t分布。其非中心参数为

λ=δ1/n1+1/n0.\lambda=\frac{\delta}{\sqrt{1/n_1+1/n_0}}.

通过反演该分布,可以得到 δ\delta 的置信区间;这类区间不一定关于效应估计值对称。

SMD 与统计假设检验中的显著性回答的是不同问题。大样本可以精确地估计一个很小的效应,而小样本中即使效应估计值较大,也可能仍有较大的不确定性。因此,P值不能替代效应量及其不确定性的报告。

配对与重复测量数据

对于配对观测值,例如干预前后的测量结果,选择分母时需要格外谨慎。

设 Di=Xi,post−Xi,preD_i=X_{i,\mathrm{post}}-X_{i,\mathrm{pre}}。一种标准化变化指标为

dz=DˉsD,d_z=\frac{\bar{D}}{s_D},

其中,sDs_D 是个体差值的标准差。由于

sD2=spre2+spost2−2r sprespost,s_D^2 = s_{\mathrm{pre}}^2+s_{\mathrm{post}}^2 - 2r\,s_{\mathrm{pre}}s_{\mathrm{post}},

两次测量之间的相关关系(以 rr 表示)会影响 dzd_z 的大小。

其他指标则使用基线标准差,或由前后测量方差的平均值计算出的标准差,对平均变化量进行标准化。这些指标估计的是不同的量。以变化分数的变异程度进行标准化的配对样本 SMD,不能与以个体间变异程度进行标准化的独立组 SMD 直接互换。

因此,在比较或合并标准化效应时,必须明确标准化分母和实验设计。此外,组内变化本身并不能证明干预效应的存在。

在元分析中的应用

当不同研究使用不同工具测量足够相似的构念时,SMD 可以用于合并这些研究,例如合并旨在评估同一技能的不同测验结果。合并之前,必须统一得分方向,使正值和负值具有一致的含义。

一种常见的逆方差加权合并估计值为

θ^=∑iwigi∑iwi.\hat{\theta} = \frac{\sum_i w_i g_i}{\sum_i w_i}.

在共同效应模型中,wi=1/viw_i=1/v_i,其中 viv_i 是估计的抽样方差。在随机效应模型中,权重通常采用以下形式:

wi=1vi+τ2,w_i=\frac{1}{v_i+\tau^2},

其中,τ2\tau^2 表示研究间效应的异质性。

标准化消除了测量单位,但并不保证实质上的可比性。不同工具可能测量不同的构念,也可能具有不同的测量信度。不同总体的变异程度也可能不同:同样的原始均值差,在更同质的总体中会产生更大的 SMD。

如果多项研究共用参与者、比较组或结局指标,其效应估计值在统计上就具有依赖性。合成这些结果时必须考虑这种依赖性,而不能把所有估计值都视为相互独立。

在协变量平衡评估中的应用

在因果推断中,标准化差异用于比较匹配或加权前后各组之间的协变量。对于连续协变量,一种常见定义为

SMD⁡bal=xˉ1−xˉ0(s12+s02)/2.\operatorname{SMD}_{\mathrm{bal}} = \frac{\bar{x}_1-\bar{x}_0} {\sqrt{(s_1^2+s_0^2)/2}}.

与通常的 Cohen's dd 所用的按自由度加权的分母不同,这个分母赋予两组方差相同的权重。其他约定则使用基线标准差或参照组标准差。

对于二元协变量,一种约定是用比例替代均值,用 p(1−p)p(1-p) 替代方差:

SMD⁡binary=p1−p0{p1(1−p1)+p0(1−p0)}/2.\operatorname{SMD}_{\mathrm{binary}} = \frac{p_1-p_0} {\sqrt{\{p_1(1-p_1)+p_0(1-p_0)\}/2}}.

标准化差异的绝对值通常用作描述性的平衡诊断指标,而不是显著性检验。0.10.1 之类的阈值只是一种惯例,并不能证明混杂已被消除。均值相等时,方差、分布形态或协变量之间的关系仍可能不同;已测量变量上的平衡也不能证明未测量变量同样平衡。

解释与局限

与 Cohen 相关的惯用基准将绝对值约为 0.20.2、0.50.5 和 0.80.8 的效应分别称为小、中和大效应。这些只是粗略的惯例,而非普遍适用的标准。实际重要性取决于结局、总体、成本和具体研究背景。

以下几项局限尤其重要:

  • 依赖变异程度。 分母反映总体异质性和测量特性,而不仅仅是均值差的大小。
  • 方差不等。 当总体方差不同时,以共同标准差为基础的解释可能不适用。合并分母还可能取决于各组样本量的相对大小。
  • 对极端观测值敏感。 均值和标准差都可能受到离群值的强烈影响。稳健的替代方法通常定义的是不同的效应指标。
  • 提供的分布信息有限。 SMD 描述的是标准化后的均值差异;若不作额外假设,它并不能描述分布之间的所有差异,也不能给出一个观测值大于另一个观测值的概率。
  • 不自动具有因果含义。 对差异进行标准化,并不能消除选择效应、混杂或其他偏差来源。
  • 分母可能无定义或不稳定。 参照标准差为零时,该指标无定义;分母估计不佳时,估计值可能不稳定。

报告原始均值、标准差、样本量、相减方向、标准化约定和不确定性区间,有助于使 SMD 的解释清晰、计算可复现。