超几何分布 是一种离散概率分布 ,描述从有限总体中不放回 抽取固定容量的样本时,样本中某一指定类型的个体数量。如果总体包含 N N N 个个体,其中 K K K 个被归类为成功项,且每个由 n n n 个不同个体组成的样本被抽中的概率都相同,那么样本中的成功项数就服从超几何分布。与二项分布 不同,超几何分布考虑了抽取个体后不将其放回总体所引入的相依性。
定义与概率质量函数 设:
N N N 为总体容量,且 N ≥ 1 N\geq 1 N ≥ 1 ;
K K K 为总体中的成功项数,且 0 ≤ K ≤ N 0\leq K\leq N 0 ≤ K ≤ N ;
n n n 为样本容量,且 0 ≤ n ≤ N 0\leq n\leq N 0 ≤ n ≤ N ;
X X X 为样本中的成功项数。
三个参数均为整数。一种常用记法是
X ∼ Hypergeometric ( N , K , n ) , X\sim\operatorname{Hypergeometric}(N,K,n), X ∼ Hypergeometric ( N , K , n ) ,
不过,不同教材和软件包使用的参数顺序与名称可能有所不同。
其概率质量函数 为
Pr ( X = x ) = ( K x ) ( N − K n − x ) ( N n ) , \Pr(X=x) = \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}}, Pr ( X = x ) = ( n N ) ( x K ) ( n − x N − K ) ,
其中整数取值需满足
max ( 0 , n + K − N ) ≤ x ≤ min ( n , K ) . \max(0,n+K-N)\leq x\leq \min(n,K). max ( 0 , n + K − N ) ≤ x ≤ min ( n , K ) .
其他情况下,概率为零。
二项式系数 ( a b ) \binom{a}{b} ( b a ) 表示从 a a a 个不同个体中选出 b b b 个的方式数。所有可能的无序样本共有 ( N n ) \binom{N}{n} ( n N ) 个。一个恰好含有 x x x 个成功项的样本,需要从 K K K 个成功项中选出 x x x 个,再从 N − K N-K N − K 个失败项中选出 n − x n-x n − x 个,由此得到分子。
当样本容量大到不可能全部由失败项组成时,取值范围的下界就尤为重要。例如,如果总体中只有三个失败项,而要抽取五个个体,那么样本中至少会有两个成功项。
概率之和为 1 可由范德蒙德恒等式得出:
∑ x ( K x ) ( N − K n − x ) = ( N n ) , \sum_x \binom{K}{x}\binom{N-K}{n-x} = \binom{N}{n}, x ∑ ( x K ) ( n − x N − K ) = ( n N ) ,
其中求和遍历 x x x 的所有允许取值。
抽样假设
定义中的关键条件是:所有大小为 n n n 的子集被选中的概率都相同。这就是不放回简单随机抽样 的通常模型。
总体中各个体的类别标签可以是固定的,而不必是随机的:仅样本选择过程中的随机性就足以产生这一分布。“成功”只是一个类别标签,并不一定表示理想的结果。
仅有不放回抽样这一条件,还不足以保证可以使用超几何模型。如果某些个体比其他个体更容易被选中,或者个体是成群被选中的,那么普通超几何分布一般并不适用。
示例 假设一批货物中有 20 个零件,其中 7 个为次品。从中等概率、不放回地抽取五个零件。如果 X X X 表示抽到的次品数,那么
X ∼ Hypergeometric ( 20 , 7 , 5 ) . X\sim\operatorname{Hypergeometric}(20,7,5). X ∼ Hypergeometric ( 20 , 7 , 5 ) .
恰好抽到两个次品的概率为
Pr ( X = 2 ) = ( 7 2 ) ( 13 3 ) ( 20 5 ) = 6006 15504 ≈ 0.3874. \Pr(X=2) = \frac{\binom{7}{2}\binom{13}{3}} {\binom{20}{5}} = \frac{6006}{15504} \approx 0.3874. Pr ( X = 2 ) = ( 5 20 ) ( 2 7 ) ( 3 13 ) = 15504 6006 ≈ 0.3874.
至少抽到一个次品的概率,最方便的计算方法是利用补事件:
Pr ( X ≥ 1 ) = 1 − Pr ( X = 0 ) = 1 − ( 13 5 ) ( 20 5 ) ≈ 0.9170. \Pr(X\geq 1) = 1-\Pr(X=0) = 1-\frac{\binom{13}{5}}{\binom{20}{5}} \approx 0.9170. Pr ( X ≥ 1 ) = 1 − Pr ( X = 0 ) = 1 − ( 5 20 ) ( 5 13 ) ≈ 0.9170.
在这里,成功概率为 7 / 20 7/20 7/20 的二项模型并不精确:取走一个次品后,剩余货物的构成就会发生变化。
均值、方差与相依性 记 p = K / N p=K/N p = K / N 。其期望值 为
E [ X ] = n p = n K N . \operatorname{E}[X]=np=n\frac{K}{N}. E [ X ] = n p = n N K .
当 N > 1 N>1 N > 1 时,方差 为
Var ( X ) = n p ( 1 − p ) N − n N − 1 . \operatorname{Var}(X) = np(1-p)\frac{N-n}{N-1}. Var ( X ) = n p ( 1 − p ) N − 1 N − n .
因子
N − n N − 1 \frac{N-n}{N-1} N − 1 N − n
是对二项分布方差的有限总体修正因子。当样本相对于总体很小时,它接近 1;当抽取整个总体时,它变为 0。
如果 n = N n=N n = N ,样本中恰好有 K K K 个成功项,因此 X = K X=K X = K 的概率为 1。其他退化情形包括 n = 0 n=0 n = 0 、K = 0 K=0 K = 0 和 K = N K=N K = N 。当 N = 1 N=1 N = 1 时,对于每一种允许的样本容量,分布也都是退化的;此时方差为零,而不是直接代入公式后得到的未定义值。
为什么方差小于二项分布的方差
设想按顺序逐个抽取样本。如果第 j j j 次抽取成功,令 I j I_j I j 为 1,否则为 0。那么
X = ∑ j = 1 n I j . X=\sum_{j=1}^{n} I_j. X = j = 1 ∑ n I j .
每个指示变量都服从成功概率为 p p p 的伯努利分布 ,但这些指示变量不具有统计独立性 。对于不同的两次抽取 i i i 和 j j j ,
E [ I i I j ] = K ( K − 1 ) N ( N − 1 ) , \operatorname{E}[I_iI_j] = \frac{K(K-1)}{N(N-1)}, E [ I i I j ] = N ( N − 1 ) K ( K − 1 ) ,
它们的协方差 为
Cov ( I i , I j ) = − p ( 1 − p ) N − 1 . \operatorname{Cov}(I_i,I_j) = -\frac{p(1-p)}{N-1}. Cov ( I i , I j ) = − N − 1 p ( 1 − p ) .
一次抽取成功后,剩余总体中的成功项比例就会下降。将各指示变量的方差与两两之间的协方差相加,即可得到超几何分布的方差。
当 n > 0 n>0 n > 0 时,样本比例 p ^ = X / n \widehat p=X/n p = X / n 是总体比例 p p p 的无偏估计量 ,且有
Var ( p ^ ) = p ( 1 − p ) n N − n N − 1 . \operatorname{Var}(\widehat p) = \frac{p(1-p)}{n}\frac{N-n}{N-1}. Var ( p ) = n p ( 1 − p ) N − 1 N − n .
这一表达式描述的是在有限总体固定的条件下,由抽样设计带来的不确定性。
分布函数与对称性 令
a = max ( 0 , n + K − N ) , b = min ( n , K ) . a=\max(0,n+K-N), \qquad b=\min(n,K). a = max ( 0 , n + K − N ) , b = min ( n , K ) .
累积分布函数 为
F ( t ) = ∑ x = a min ( ⌊ t ⌋ , b ) ( K x ) ( N − K n − x ) ( N n ) , F(t) = \sum_{x=a}^{\min(\lfloor t\rfloor,b)} \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}}, F ( t ) = x = a ∑ m i n (⌊ t ⌋ , b ) ( n N ) ( x K ) ( n − x N − K ) ,
其中,当 t < a t<a t < a 时,F ( t ) = 0 F(t)=0 F ( t ) = 0 ;当 t ≥ b t\geq b t ≥ b 时,F ( t ) = 1 F(t)=1 F ( t ) = 1 。
以下几种变换很有用:
交换成功与失败的标签。 如果 X ∼ Hypergeometric ( N , K , n ) X\sim\operatorname{Hypergeometric}(N,K,n) X ∼ Hypergeometric ( N , K , n ) ,则
n − X ∼ Hypergeometric ( N , N − K , n ) . n-X\sim\operatorname{Hypergeometric}(N,N-K,n). n − X ∼ Hypergeometric ( N , N − K , n ) .
计算样本之外的成功项数。
K − X ∼ Hypergeometric ( N , K , N − n ) . K-X\sim\operatorname{Hypergeometric}(N,K,N-n). K − X ∼ Hypergeometric ( N , K , N − n ) .
交换 K K K 与 n n n 。 以下两个分布
Hypergeometric ( N , K , n ) and Hypergeometric ( N , n , K ) \operatorname{Hypergeometric}(N,K,n) \quad\text{and}\quad \operatorname{Hypergeometric}(N,n,K) Hypergeometric ( N , K , n ) and Hypergeometric ( N , n , K )
完全相同。
最后一个恒等关系可以通过将 X X X 看作一个固定子集与一个等概率选出的子集之间的交集大小来理解。
与其他分布的关系及近似 条件二项分布表示
设
Y ∼ Binomial ( n , q ) , Z ∼ Binomial ( N − n , q ) Y\sim\operatorname{Binomial}(n,q), \qquad Z\sim\operatorname{Binomial}(N-n,q) Y ∼ Binomial ( n , q ) , Z ∼ Binomial ( N − n , q )
相互独立,且 0 < q < 1 0<q<1 0 < q < 1 。在给定 Y + Z = K Y+Z=K Y + Z = K 的条件下,Y Y Y 的条件分布 为
Y ∣ ( Y + Z = K ) ∼ Hypergeometric ( N , K , n ) . Y\mid(Y+Z=K) \sim\operatorname{Hypergeometric}(N,K,n). Y ∣ ( Y + Z = K ) ∼ Hypergeometric ( N , K , n ) .
这一条件将全部 N N N 个位置上的成功总数固定下来。共同的成功概率 q q q 会在条件概率中约去。
二项近似
当样本只占总体的一小部分时,取走一个个体只会使成功项比例发生轻微变化。因此,
X ≈ Binomial ( n , K N ) . X\approx\operatorname{Binomial}\left(n,\frac KN\right). X ≈ Binomial ( n , N K ) .
更严格地说,对于固定的 n n n ,如果 N N N 趋于无穷且 K / N → p K/N\to p K / N → p ,则超几何分布收敛于 Binomial ( n , p ) \operatorname{Binomial}(n,p) Binomial ( n , p ) 。
不存在一个通用的抽样比阈值,能够保证近似精度适用于所有用途。尾部概率可能比中心附近的概率需要更高的精度。方差比
Var ( X ) n p ( 1 − p ) = N − n N − 1 \frac{\operatorname{Var}(X)}{np(1-p)} = \frac{N-n}{N-1} n p ( 1 − p ) Var ( X ) = N − 1 N − n
表明二项近似忽略有限总体效应的程度。
正态近似
当分布足够分散,且受其取值范围边界的影响不大时,可以用正态分布 进行近似:
X ≈ N ( μ , σ 2 ) , X\approx\mathcal N(\mu,\sigma^2), X ≈ N ( μ , σ 2 ) ,
其中
μ = n p , σ 2 = n p ( 1 − p ) N − n N − 1 . \mu=np, \qquad \sigma^2=np(1-p)\frac{N-n}{N-1}. μ = n p , σ 2 = n p ( 1 − p ) N − 1 N − n .
对整数 x x x 使用连续性校正,可得
Pr ( X ≤ x ) ≈ Φ ( x + 1 2 − μ σ ) , \Pr(X\leq x) \approx \Phi\left(\frac{x+\tfrac12-\mu}{\sigma}\right), Pr ( X ≤ x ) ≈ Φ ( σ x + 2 1 − μ ) ,
其中 Φ \Phi Φ 为标准正态分布函数。
样本部分和未抽取部分中成功项与失败项的期望数量,有助于判断这种近似是否合理。如果分布仍然集中在某个边界附近,仅有较大的样本容量并不足以保证近似合理。
泊松近似
在成功事件稀少的情形下,使用泊松分布 近似可能是合适的。一组充分的渐近条件是
n → ∞ , K N → 0 , n K N → λ , n N → 0. n\to\infty,\qquad \frac KN\to0,\qquad n\frac KN\to\lambda,\qquad \frac nN\to0. n → ∞ , N K → 0 , n N K → λ , N n → 0.
此时,极限分布为 Poisson ( λ ) \operatorname{Poisson}(\lambda) Poisson ( λ ) 。抽样比可以忽略这一点很重要:仅仅成功事件稀少,并不能消除不放回抽样带来的影响。
在统计推断中的应用 费舍尔精确检验
超几何分布是用于 2 × 2 2\times2 2 × 2 列联表的费舍尔精确检验 的基础。考虑下表:
成功
失败
合计
第 1 组
x x x
n − x n-x n − x
n n n
第 2 组
K − x K-x K − x
N − K − n + x N-K-n+x N − K − n + x
N − n N-n N − n
合计
K K K
N − K N-K N − K
N N N
在不存在关联的原假设 下,以边际总数为给定条件,左上角单元格的计数服从超几何分布。
将相应尾部中的概率相加,即可得到单侧P值 。计算双侧精确 P 值时,需要先定义哪些表至少与观测表同样极端。由于分布是离散的,不同约定可能得出不同结果;将单侧概率简单加倍,并不总是等价于按概率大小排序进行计算。
验收抽样与有限总体推断
在验收抽样中,对于一批包含 N N N 个产品、其中有 K K K 个次品的货物,如果样本中的次品数不超过 c c c ,就予以接收。其接收概率为
Pr ( X ≤ c ) = ∑ x = a min ( c , b ) ( K x ) ( N − K n − x ) ( N n ) . \Pr(X\leq c) = \sum_{x=a}^{\min(c,b)} \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}}. Pr ( X ≤ c ) = x = a ∑ m i n ( c , b ) ( n N ) ( x K ) ( n − x N − K ) .
当 K K K 未知时,在 N N N 和 n n n 固定的情况下,同一概率模型可给出关于 K K K 的似然函数 。通过反演精确检验,可以得到总体中成功项数或比例的置信区间 。由于参数和观测值都是离散的,非随机化的精确方法可能具有高于名义水平的覆盖率。
重叠与富集分析
假设全集包含 N N N 个元素,其中某个指定类别包含 K K K 个元素,而选定集合包含 n n n 个元素。在选定集合从所有大小为 n n n 的子集中等概率选出的零模型下,它与该类别的交集大小服从超几何分布。
上尾概率可用于评估某一类别是否过度代表,包括在基因表达 结果分析中的应用。结果的解释取决于所选的全集,以及选择机制是否支持各子集等概率的零模型。同时检验多个类别还会引入多重检验 问题。
扩展与相关分布 多元超几何分布
如果总体被划分为 m m m 个类别,各类别大小为 K 1 , … , K m K_1,\ldots,K_m K 1 , … , K m ,其中 ∑ i K i = N \sum_iK_i=N ∑ i K i = N ,则样本中各类别的计数服从多元超几何分布 :
Pr ( X 1 = x 1 , … , X m = x m ) = ∏ i = 1 m ( K i x i ) ( N n ) , \Pr(X_1=x_1,\ldots,X_m=x_m) = \frac{\prod_{i=1}^{m}\binom{K_i}{x_i}} {\binom{N}{n}}, Pr ( X 1 = x 1 , … , X m = x m ) = ( n N ) ∏ i = 1 m ( x i K i ) ,
并满足 ∑ i x i = n \sum_i x_i=n ∑ i x i = n 和 0 ≤ x i ≤ K i 0\leq x_i\leq K_i 0 ≤ x i ≤ K i 。普通超几何分布就是只有两个类别的情形。
负超几何分布
当不放回抽样持续进行,直到观察到指定数量的成功或失败时,就会出现负超几何分布 。其随机变量通常表示停止前的抽取次数,或另一类别结果出现的次数。这与普通超几何模型中固定样本容量的设定不同。
非中心超几何分布
非中心超几何分布 用于描述某些类别间选择概率不相等的情形。费舍尔型和沃伦纽斯型描述的是不同机制:前者由成功优势比不同的独立二项计数在给定条件下得到,后者则来自依次进行的加权不放回抽样。当各类别权重相等时,两者都与普通超几何分布一致;但在其他情况下,一般不能互换使用。
数值计算 即使最终概率的大小适中,直接使用阶乘 计算仍可能发生溢出。实际实现通常采用二项式系数的对数、专用概率算法,或相邻概率之间的递推关系 :
Pr ( X = x + 1 ) Pr ( X = x ) = ( K − x ) ( n − x ) ( x + 1 ) ( N − K − n + x + 1 ) , \frac{\Pr(X=x+1)}{\Pr(X=x)} = \frac{(K-x)(n-x)} {(x+1)(N-K-n+x+1)}, Pr ( X = x ) Pr ( X = x + 1 ) = ( x + 1 ) ( N − K − n + x + 1 ) ( K − x ) ( n − x ) ,
其中相邻两个值均须位于取值范围内。
这个比值也解释了该分布名称的由来:相邻概率项之比是下标的有理函数,因此与超几何级数相联系。
为保证数值稳定性 ,算法可以从众数附近开始,向两侧递推出各项概率,再进行归一化。对于非常小的上尾概率,最好直接计算,而不是用 1 减去一个接近 1 的累积概率,因为后者可能损失有效数字。