错误发现率(FDR)是统计学中的一种误差准则,用于进行多重假设检验时。它衡量被拒绝的假设中,其原假设实际为真的比例的期望值。与限制至少出现一次错误拒绝的概率的误差准则不同,FDR 控制允许出现一些错误发现,同时限制发现集合中错误发现的平均比例。Yoav Benjamini 和 Yosef Hochberg 于 1995 年提出了这一准则及一种广泛使用的控制方法。(academic.oup.com)
定义
考虑由 个假设组成的一组。定义:
- 为真的原假设数量;
- 为被拒绝的假设总数;
- 为被拒绝的真原假设数量。
错误拒绝属于第一类错误。数值 表示对错误原假设的正确拒绝数量。由于拒绝决策取决于抽样数据, 和 是随机变量。错误发现比例(FDP)定义为
因此,发生发现时 FDP 等于 ;当 时,则定义为零。FDR 是其期望值:
如果对其假设所涵盖的每一种数据生成分布,某程序都满足 ,则称该程序将 FDR 控制在目标水平 。FDP 描述某一次实际得到的发现集合中的错误;FDR 则描述该程序在重复抽样下的平均表现。(arxiv.org)
特别地,一般而言,
随机比值的期望通常不能用期望之比替代。(genomics.princeton.edu)
与其他误差准则的比较
族错误率(FWER)定义为
即至少出现一次错误拒绝的概率。由于错误发现比例不大于“发生错误拒绝”这一事件的指示函数,
因此,控制 FWER 也会以相同水平控制 FDR,但反过来通常不成立。在全局原假设下,即所有 个原假设都为真时,每项发现都是错误的:只要 ,FDP 就为一。在这一特殊情况下,FDR 与 FWER 相等。(academic.oup.com)
邦费罗尼校正通过将每个假设的检验显著性水平设为 来控制 FWER。FDR 程序使用较宽松的误差准则,因此可能具有更高的统计功效,尤其是在许多假设为假时。这种差异在于所控制的误差类型,并不意味着所有 FDR 程序都一定优于所有 FWER 程序。(stat.ethz.ch)
FDR 也不同于单项检验的假阳性率。单项检验的假阳性率关注原假设为真时拒绝该假设的条件概率;FDR 关注被选中拒绝的假设中,真原假设所占的比例。两者的分母和含义都不同。(genomics.princeton.edu)
本杰明尼—霍赫伯格程序
本杰明尼—霍赫伯格程序(BH)是一种基于P值的逐步递进程序。对于目标 FDR 水平 ,将 个 P 值按顺序排列:
求
如果集合为空,则不拒绝任何假设;否则,拒绝与 对应的假设。该程序选择满足条件的最大秩,而不是在第一次比较不满足条件时停止。(stat.ethz.ch)
数值示例
假设五个排序后的 P 值为
当 时,BH 的比较阈值为
满足条件的最大秩为三,因此拒绝前三个假设。若在相同数值水平下应用邦费罗尼校正,则只会拒绝前两个假设。这两种计算都无法确定被拒绝的假设中是否有错误发现,也无法确定具体哪些是假发现。
假设与保证
对于真原假设,有效 P 值满足
这类 P 值称为超均匀:小值出现的频率不会高于服从均匀分布时的频率。在适当的统计独立性假设下,BH 满足
当原假设对应的 P 值相互独立、严格服从均匀分布,且独立于非原假设对应的 P 值时,第一个不等式取等号。(arxiv.org)
Benjamini 和 Daniel Yekutieli 于 2001 年证明,在对某个子集的正回归依赖(PRDS)条件下,BH 也能控制 FDR。这是一项涉及真原假设的技术条件。PRDS 并不等同于正的成对相关关系;仅笼统声称检验之间存在正相关,并不足以保证满足这一条件。(math.tau.ac.il)
依赖关系与本杰明尼—耶库捷利程序
本杰明尼—耶库捷利程序(BY)对 BH 进行修改,以适用于有效 P 值之间存在任意依赖关系的情况。定义调和和
BY 使用如下阈值
其余步骤与 BH 的逐步递进规则相同。等价地,它相当于以目标水平 应用 BH。该程序无需独立性或 PRDS 条件即可控制 FDR,但较小的阈值可能会显著减少发现数量。(math.tau.ac.il)
因此,依赖结构是 FDR 程序数学定义的一部分,而不只是实现细节。仅有有效的单个 P 值,并不能保证标准 BH 程序在所有可能的联合分布下都满足其控制保证。(math.tau.ac.il)
校正 P 值与 Q 值
BH 的判定可以用校正 P 值表示。按顺序排列后,校正值为
拒绝满足 的假设,就会得到 BH 的发现集合。这里的累积最小值步骤很重要:如果只将每个 P 值乘以 ,而不再进行这一步,通常无法得到正确的校正值。(stat.ethz.ch)
Q值是另一个相关量,由 John Storey 在错误发现率研究中提出。在其原始表述中,Q值是一个与包含观测统计量的拒绝域相关联的最小正错误发现率。它描述所选集合的错误率,而不是某个单独假设为真的概率。尽管 BH 校正 P 值有时也称为 Q 值,但 BH 校正与 Storey 基于估计的 Q 值并非同一种构造。(rss.onlinelibrary.wiley.com)
自适应方法试图通过估计真原假设所占比例来提高统计功效:
一种估计量使用调节参数 :
其依据是:服从均匀分布的原假设 P 值大于 的概率为 。估计 、选择 和选择拒绝阈值都会带来额外的统计问题;简单地将任意估计值代入 BH,并不能自动保留有限样本下的 FDR 控制。(genomics.princeton.edu)
正错误发现率与局部错误发现率
正错误发现率定义为
前提是 。它不包括没有任何发现的情况。在将零发现时的错误发现比例定义为零后,
因此,当某程序很少拒绝任何假设时,FDR 与 pFDR 可能相差很大。(genomics.princeton.edu)
局部错误发现率是另一种基于模型的量。对于检验统计量 的双成分混合模型,
其中 和 分别是原假设和备择假设的概率密度函数。根据贝叶斯定理,
这是在给定统计量 的条件下,该模型将观测归于原假设的后验概率。与集合层面的频率学派 FDR 不同,局部错误发现率针对单个观测,并取决于混合模型及其估计。(stat.cmu.edu)
应用与解释上的局限
FDR 方法尤其适用于大规模发现研究。例如,基因表达实验可能会检验数千个基因在不同条件下是否存在差异。基于 FDR 的分析能够描述最终候选集合中的错误发现比例的期望值,同时保留比更严格的族错误准则可能允许的更多发现。(pmc.ncbi.nlm.nih.gov)
“发现”的含义仍取决于被检验的假设。拒绝原假设并不能证明效应量很大、具有实际重要性,或存在因果关系。在大规模检验中,精确原假设与科学上不重要的效应之间的区别,也会影响对发现的解释。(stat.cmu.edu)
最后,FDR 控制在 并不保证某项具体研究中的发现最多有 5% 是错误的。它控制的是比例的期望值,而实际得到的 FDP 可能在不同研究之间有所变化。它也不意味着每项发现都有 5% 的错误概率。该保证适用于指定的程序及其假设;观测到的发现集合本身,并不能直接测出其中未知的错误比例。(genomics.princeton.edu)
参考来源
- Elementary proofs of several results on false discovery ratearxiv.org
- The Control of the False Discovery Rate in Multiple Testing under Dependencymath.tau.ac.il
- R: Adjust P-values for Multiple Comparisonsstat.ethz.ch
- Benjamini-Hochberg Procedure with the Simulatorstat.ethz.ch
- A direct approach to false discovery ratesgenomics.princeton.edu
- Statistical significance for genomewide studiespmc.ncbi.nlm.nih.gov
- Statistical significance for genomewide studiesgenomics.princeton.edu
- Large-Scale Simultaneous Hypothesis Testing: The Choice of a Null Hypothesisstat.cmu.edu