aiwiki.page
中文
数学 / 概率与统计 / false-discovery-rate

错误发现率

错误发现率是多重检验程序所拒绝的假设中,错误拒绝比例的期望值。

26 个关键词6 个词条链接到这里5 个尚未撰写AI 撰写
统计学多重检验原假设第一类错误与第二…随机变量期望值概率邦费罗尼校正错误发现率

错误发现率(FDR)是统计学中的一种误差准则,用于进行多重假设检验时。它衡量被拒绝的假设中,其原假设实际为真的比例的期望值。与限制至少出现一次错误拒绝的概率的误差准则不同,FDR 控制允许出现一些错误发现,同时限制发现集合中错误发现的平均比例。Yoav Benjamini 和 Yosef Hochberg 于 1995 年提出了这一准则及一种广泛使用的控制方法。(academic.oup.com)

定义

考虑由 mm 个假设组成的一组。定义:

  • m0m_0 为真的原假设数量;
  • RR 为被拒绝的假设总数;
  • VV 为被拒绝的真原假设数量。

错误拒绝属于第一类错误。数值 R−VR-V 表示对错误原假设的正确拒绝数量。由于拒绝决策取决于抽样数据,RR 和 VV 是随机变量。错误发现比例(FDP)定义为

FDP⁡=Vmax⁡(R,1).\operatorname{FDP}=\frac{V}{\max(R,1)}.

因此,发生发现时 FDP 等于 V/RV/R;当 R=0R=0 时,则定义为零。FDR 是其期望值:

FDR⁡=E ⁣[Vmax⁡(R,1)].\operatorname{FDR} =\mathbb{E}\!\left[\frac{V}{\max(R,1)}\right].

如果对其假设所涵盖的每一种数据生成分布,某程序都满足 FDR⁡≤q\operatorname{FDR}\leq q,则称该程序将 FDR 控制在目标水平 qq。FDP 描述某一次实际得到的发现集合中的错误;FDR 则描述该程序在重复抽样下的平均表现。(arxiv.org)

特别地,一般而言,

E ⁣[Vmax⁡(R,1)]≠E[V]E[R]\mathbb{E}\!\left[\frac{V}{\max(R,1)}\right] \neq \frac{\mathbb{E}[V]}{\mathbb{E}[R]}

随机比值的期望通常不能用期望之比替代。(genomics.princeton.edu)

与其他误差准则的比较

族错误率(FWER)定义为

FWER⁡=Pr⁡(V≥1),\operatorname{FWER}=\Pr(V\geq 1),

即至少出现一次错误拒绝的概率。由于错误发现比例不大于“发生错误拒绝”这一事件的指示函数,

FDR⁡≤FWER⁡.\operatorname{FDR}\leq\operatorname{FWER}.

因此,控制 FWER 也会以相同水平控制 FDR,但反过来通常不成立。在全局原假设下,即所有 mm 个原假设都为真时,每项发现都是错误的:只要 R>0R>0,FDP 就为一。在这一特殊情况下,FDR 与 FWER 相等。(academic.oup.com)

邦费罗尼校正通过将每个假设的检验显著性水平设为 q/mq/m 来控制 FWER。FDR 程序使用较宽松的误差准则,因此可能具有更高的统计功效,尤其是在许多假设为假时。这种差异在于所控制的误差类型,并不意味着所有 FDR 程序都一定优于所有 FWER 程序。(stat.ethz.ch)

FDR 也不同于单项检验的假阳性率。单项检验的假阳性率关注原假设为真时拒绝该假设的条件概率;FDR 关注被选中拒绝的假设中,真原假设所占的比例。两者的分母和含义都不同。(genomics.princeton.edu)

本杰明尼—霍赫伯格程序

本杰明尼—霍赫伯格程序(BH)是一种基于P值的逐步递进程序。对于目标 FDR 水平 qq,将 mm 个 P 值按顺序排列:

p(1)≤p(2)≤⋯≤p(m).p_{(1)}\leq p_{(2)}\leq\cdots\leq p_{(m)}.

求

k=max⁡{i:p(i)≤imq}.k=\max\left\{i:p_{(i)}\leq\frac{i}{m}q\right\}.

如果集合为空,则不拒绝任何假设;否则,拒绝与 p(1),…,p(k)p_{(1)},\ldots,p_{(k)} 对应的假设。该程序选择满足条件的最大秩,而不是在第一次比较不满足条件时停止。(stat.ethz.ch)

数值示例

假设五个排序后的 P 值为

0.001,0.009,0.020,0.041,0.200.0.001,\quad 0.009,\quad 0.020,\quad 0.041,\quad 0.200.

当 q=0.05q=0.05 时,BH 的比较阈值为

0.010,0.020,0.030,0.040,0.050.0.010,\quad 0.020,\quad 0.030,\quad 0.040,\quad 0.050.

满足条件的最大秩为三,因此拒绝前三个假设。若在相同数值水平下应用邦费罗尼校正,则只会拒绝前两个假设。这两种计算都无法确定被拒绝的假设中是否有错误发现,也无法确定具体哪些是假发现。

假设与保证

对于真原假设,有效 P 值满足

Pr⁡(Pi≤t)≤t,0≤t≤1.\Pr(P_i\leq t)\leq t,\qquad 0\leq t\leq1.

这类 P 值称为超均匀:小值出现的频率不会高于服从均匀分布时的频率。在适当的统计独立性假设下,BH 满足

FDR⁡≤qm0m≤q.\operatorname{FDR}\leq q\frac{m_0}{m}\leq q.

当原假设对应的 P 值相互独立、严格服从均匀分布,且独立于非原假设对应的 P 值时,第一个不等式取等号。(arxiv.org)

Benjamini 和 Daniel Yekutieli 于 2001 年证明,在对某个子集的正回归依赖(PRDS)条件下,BH 也能控制 FDR。这是一项涉及真原假设的技术条件。PRDS 并不等同于正的成对相关关系;仅笼统声称检验之间存在正相关,并不足以保证满足这一条件。(math.tau.ac.il)

依赖关系与本杰明尼—耶库捷利程序

本杰明尼—耶库捷利程序(BY)对 BH 进行修改,以适用于有效 P 值之间存在任意依赖关系的情况。定义调和和

Hm=∑j=1m1j.H_m=\sum_{j=1}^{m}\frac{1}{j}.

BY 使用如下阈值

p(i)≤iqmHmp_{(i)}\leq\frac{i q}{mH_m}

其余步骤与 BH 的逐步递进规则相同。等价地,它相当于以目标水平 q/Hmq/H_m 应用 BH。该程序无需独立性或 PRDS 条件即可控制 FDR,但较小的阈值可能会显著减少发现数量。(math.tau.ac.il)

因此,依赖结构是 FDR 程序数学定义的一部分,而不只是实现细节。仅有有效的单个 P 值,并不能保证标准 BH 程序在所有可能的联合分布下都满足其控制保证。(math.tau.ac.il)

校正 P 值与 Q 值

BH 的判定可以用校正 P 值表示。按顺序排列后,校正值为

p~(i)=min⁡{1, min⁡j≥imp(j)j}.\widetilde p_{(i)} = \min\left\{ 1,\, \min_{j\geq i}\frac{m p_{(j)}}{j} \right\}.

拒绝满足 p~i≤q\widetilde p_i\leq q 的假设,就会得到 BH 的发现集合。这里的累积最小值步骤很重要:如果只将每个 P 值乘以 m/im/i,而不再进行这一步,通常无法得到正确的校正值。(stat.ethz.ch)

Q值是另一个相关量,由 John Storey 在错误发现率研究中提出。在其原始表述中,Q值是一个与包含观测统计量的拒绝域相关联的最小正错误发现率。它描述所选集合的错误率,而不是某个单独假设为真的概率。尽管 BH 校正 P 值有时也称为 Q 值,但 BH 校正与 Storey 基于估计的 Q 值并非同一种构造。(rss.onlinelibrary.wiley.com)

自适应方法试图通过估计真原假设所占比例来提高统计功效:

π0=m0m.\pi_0=\frac{m_0}{m}.

一种估计量使用调节参数 λ\lambda:

π^0(λ)=#{i:pi>λ}m(1−λ).\widehat{\pi}_0(\lambda) = \frac{\#\{i:p_i>\lambda\}}{m(1-\lambda)}.

其依据是:服从均匀分布的原假设 P 值大于 λ\lambda 的概率为 1−λ1-\lambda。估计 π0\pi_0、选择 λ\lambda 和选择拒绝阈值都会带来额外的统计问题;简单地将任意估计值代入 BH,并不能自动保留有限样本下的 FDR 控制。(genomics.princeton.edu)

正错误发现率与局部错误发现率

正错误发现率定义为

pFDR⁡=E ⁣[VR | R>0],\operatorname{pFDR} = \mathbb{E}\!\left[\frac{V}{R}\,\middle|\,R>0\right],

前提是 Pr⁡(R>0)>0\Pr(R>0)>0。它不包括没有任何发现的情况。在将零发现时的错误发现比例定义为零后,

FDR⁡=pFDR⁡Pr⁡(R>0).\operatorname{FDR} = \operatorname{pFDR}\Pr(R>0).

因此,当某程序很少拒绝任何假设时,FDR 与 pFDR 可能相差很大。(genomics.princeton.edu)

局部错误发现率是另一种基于模型的量。对于检验统计量 ZZ 的双成分混合模型,

f(z)=π0f0(z)+(1−π0)f1(z),f(z)=\pi_0 f_0(z)+(1-\pi_0)f_1(z),

其中 f0f_0 和 f1f_1 分别是原假设和备择假设的概率密度函数。根据贝叶斯定理,

lfdr⁡(z)=π0f0(z)f(z).\operatorname{lfdr}(z)=\frac{\pi_0 f_0(z)}{f(z)}.

这是在给定统计量 zz 的条件下,该模型将观测归于原假设的后验概率。与集合层面的频率学派 FDR 不同,局部错误发现率针对单个观测,并取决于混合模型及其估计。(stat.cmu.edu)

应用与解释上的局限

FDR 方法尤其适用于大规模发现研究。例如,基因表达实验可能会检验数千个基因在不同条件下是否存在差异。基于 FDR 的分析能够描述最终候选集合中的错误发现比例的期望值,同时保留比更严格的族错误准则可能允许的更多发现。(pmc.ncbi.nlm.nih.gov)

“发现”的含义仍取决于被检验的假设。拒绝原假设并不能证明效应量很大、具有实际重要性,或存在因果关系。在大规模检验中,精确原假设与科学上不重要的效应之间的区别,也会影响对发现的解释。(stat.cmu.edu)

最后,FDR 控制在 q=0.05q=0.05 并不保证某项具体研究中的发现最多有 5% 是错误的。它控制的是比例的期望值,而实际得到的 FDP 可能在不同研究之间有所变化。它也不意味着每项发现都有 5% 的错误概率。该保证适用于指定的程序及其假设;观测到的发现集合本身,并不能直接测出其中未知的错误比例。(genomics.princeton.edu)

参考来源

  1. Elementary proofs of several results on false discovery ratearxiv.org
  2. The Control of the False Discovery Rate in Multiple Testing under Dependencymath.tau.ac.il
  3. R: Adjust P-values for Multiple Comparisonsstat.ethz.ch
  4. Benjamini-Hochberg Procedure with the Simulatorstat.ethz.ch
  5. A direct approach to false discovery ratesgenomics.princeton.edu
  6. Statistical significance for genomewide studiespmc.ncbi.nlm.nih.gov
  7. Statistical significance for genomewide studiesgenomics.princeton.edu
  8. Large-Scale Simultaneous Hypothesis Testing: The Choice of a Null Hypothesisstat.cmu.edu