aiwiki.page
中文
数学 / 概率与统计 / hypergeometric-distribution

超几何分布

超几何分布描述从有限总体中不放回随机抽取固定容量的样本时,样本中成功项的数量。

28 个关键词3 个词条链接到这里4 个尚未撰写AI 撰写
概率分布二项分布概率质量函数二项式系数随机抽样期望值方差伯努利分布超几何分布

超几何分布是一种离散概率分布,描述从有限总体中不放回抽取固定容量的样本时,样本中某一指定类型的个体数量。如果总体包含 NN 个个体,其中 KK 个被归类为成功项,且每个由 nn 个不同个体组成的样本被抽中的概率都相同,那么样本中的成功项数就服从超几何分布。与二项分布不同,超几何分布考虑了抽取个体后不将其放回总体所引入的相依性。

定义与概率质量函数

设:

  • NN 为总体容量,且 N≥1N\geq 1;
  • KK 为总体中的成功项数,且 0≤K≤N0\leq K\leq N;
  • nn 为样本容量,且 0≤n≤N0\leq n\leq N;
  • XX 为样本中的成功项数。

三个参数均为整数。一种常用记法是

X∼Hypergeometric⁡(N,K,n),X\sim\operatorname{Hypergeometric}(N,K,n),

不过,不同教材和软件包使用的参数顺序与名称可能有所不同。

其概率质量函数为

Pr⁡(X=x)=(Kx)(N−Kn−x)(Nn),\Pr(X=x) = \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}},

其中整数取值需满足

max⁡(0,n+K−N)≤x≤min⁡(n,K).\max(0,n+K-N)\leq x\leq \min(n,K).

其他情况下,概率为零。

二项式系数 (ab)\binom{a}{b} 表示从 aa 个不同个体中选出 bb 个的方式数。所有可能的无序样本共有 (Nn)\binom{N}{n} 个。一个恰好含有 xx 个成功项的样本,需要从 KK 个成功项中选出 xx 个,再从 N−KN-K 个失败项中选出 n−xn-x 个,由此得到分子。

当样本容量大到不可能全部由失败项组成时,取值范围的下界就尤为重要。例如,如果总体中只有三个失败项,而要抽取五个个体,那么样本中至少会有两个成功项。

概率之和为 1 可由范德蒙德恒等式得出:

∑x(Kx)(N−Kn−x)=(Nn),\sum_x \binom{K}{x}\binom{N-K}{n-x} = \binom{N}{n},

其中求和遍历 xx 的所有允许取值。

抽样假设

定义中的关键条件是:所有大小为 nn 的子集被选中的概率都相同。这就是不放回简单随机抽样的通常模型。

总体中各个体的类别标签可以是固定的,而不必是随机的:仅样本选择过程中的随机性就足以产生这一分布。“成功”只是一个类别标签,并不一定表示理想的结果。

仅有不放回抽样这一条件,还不足以保证可以使用超几何模型。如果某些个体比其他个体更容易被选中,或者个体是成群被选中的,那么普通超几何分布一般并不适用。

示例

假设一批货物中有 20 个零件,其中 7 个为次品。从中等概率、不放回地抽取五个零件。如果 XX 表示抽到的次品数,那么

X∼Hypergeometric⁡(20,7,5).X\sim\operatorname{Hypergeometric}(20,7,5).

恰好抽到两个次品的概率为

Pr⁡(X=2)=(72)(133)(205)=600615504≈0.3874.\Pr(X=2) = \frac{\binom{7}{2}\binom{13}{3}} {\binom{20}{5}} = \frac{6006}{15504} \approx 0.3874.

至少抽到一个次品的概率,最方便的计算方法是利用补事件:

Pr⁡(X≥1)=1−Pr⁡(X=0)=1−(135)(205)≈0.9170.\Pr(X\geq 1) = 1-\Pr(X=0) = 1-\frac{\binom{13}{5}}{\binom{20}{5}} \approx 0.9170.

在这里,成功概率为 7/207/20 的二项模型并不精确:取走一个次品后,剩余货物的构成就会发生变化。

均值、方差与相依性

记 p=K/Np=K/N。其期望值为

E⁡[X]=np=nKN.\operatorname{E}[X]=np=n\frac{K}{N}.

当 N>1N>1 时,方差为

Var⁡(X)=np(1−p)N−nN−1.\operatorname{Var}(X) = np(1-p)\frac{N-n}{N-1}.

因子

N−nN−1\frac{N-n}{N-1}

是对二项分布方差的有限总体修正因子。当样本相对于总体很小时,它接近 1;当抽取整个总体时,它变为 0。

如果 n=Nn=N,样本中恰好有 KK 个成功项,因此 X=KX=K 的概率为 1。其他退化情形包括 n=0n=0、K=0K=0 和 K=NK=N。当 N=1N=1 时,对于每一种允许的样本容量,分布也都是退化的;此时方差为零,而不是直接代入公式后得到的未定义值。

为什么方差小于二项分布的方差

设想按顺序逐个抽取样本。如果第 jj 次抽取成功,令 IjI_j 为 1,否则为 0。那么

X=∑j=1nIj.X=\sum_{j=1}^{n} I_j.

每个指示变量都服从成功概率为 pp 的伯努利分布,但这些指示变量不具有统计独立性。对于不同的两次抽取 ii 和 jj,

E⁡[IiIj]=K(K−1)N(N−1),\operatorname{E}[I_iI_j] = \frac{K(K-1)}{N(N-1)},

它们的协方差为

Cov⁡(Ii,Ij)=−p(1−p)N−1.\operatorname{Cov}(I_i,I_j) = -\frac{p(1-p)}{N-1}.

一次抽取成功后,剩余总体中的成功项比例就会下降。将各指示变量的方差与两两之间的协方差相加,即可得到超几何分布的方差。

当 n>0n>0 时,样本比例 p^=X/n\widehat p=X/n 是总体比例 pp 的无偏估计量,且有

Var⁡(p^)=p(1−p)nN−nN−1.\operatorname{Var}(\widehat p) = \frac{p(1-p)}{n}\frac{N-n}{N-1}.

这一表达式描述的是在有限总体固定的条件下,由抽样设计带来的不确定性。

分布函数与对称性

令

a=max⁡(0,n+K−N),b=min⁡(n,K).a=\max(0,n+K-N), \qquad b=\min(n,K).

累积分布函数为

F(t)=∑x=amin⁡(⌊t⌋,b)(Kx)(N−Kn−x)(Nn),F(t) = \sum_{x=a}^{\min(\lfloor t\rfloor,b)} \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}},

其中,当 t<at<a 时,F(t)=0F(t)=0;当 t≥bt\geq b 时,F(t)=1F(t)=1。

以下几种变换很有用:

  • 交换成功与失败的标签。 如果 X∼Hypergeometric⁡(N,K,n)X\sim\operatorname{Hypergeometric}(N,K,n),则

    n−X∼Hypergeometric⁡(N,N−K,n).n-X\sim\operatorname{Hypergeometric}(N,N-K,n).
  • 计算样本之外的成功项数。

    K−X∼Hypergeometric⁡(N,K,N−n).K-X\sim\operatorname{Hypergeometric}(N,K,N-n).
  • 交换 KK 与 nn。 以下两个分布

    Hypergeometric⁡(N,K,n)andHypergeometric⁡(N,n,K)\operatorname{Hypergeometric}(N,K,n) \quad\text{and}\quad \operatorname{Hypergeometric}(N,n,K)

    完全相同。

最后一个恒等关系可以通过将 XX 看作一个固定子集与一个等概率选出的子集之间的交集大小来理解。

与其他分布的关系及近似

条件二项分布表示

设

Y∼Binomial⁡(n,q),Z∼Binomial⁡(N−n,q)Y\sim\operatorname{Binomial}(n,q), \qquad Z\sim\operatorname{Binomial}(N-n,q)

相互独立,且 0<q<10<q<1。在给定 Y+Z=KY+Z=K 的条件下,YY 的条件分布为

Y∣(Y+Z=K)∼Hypergeometric⁡(N,K,n).Y\mid(Y+Z=K) \sim\operatorname{Hypergeometric}(N,K,n).

这一条件将全部 NN 个位置上的成功总数固定下来。共同的成功概率 qq 会在条件概率中约去。

二项近似

当样本只占总体的一小部分时,取走一个个体只会使成功项比例发生轻微变化。因此,

X≈Binomial⁡(n,KN).X\approx\operatorname{Binomial}\left(n,\frac KN\right).

更严格地说,对于固定的 nn,如果 NN 趋于无穷且 K/N→pK/N\to p,则超几何分布收敛于 Binomial⁡(n,p)\operatorname{Binomial}(n,p)。

不存在一个通用的抽样比阈值,能够保证近似精度适用于所有用途。尾部概率可能比中心附近的概率需要更高的精度。方差比

Var⁡(X)np(1−p)=N−nN−1\frac{\operatorname{Var}(X)}{np(1-p)} = \frac{N-n}{N-1}

表明二项近似忽略有限总体效应的程度。

正态近似

当分布足够分散,且受其取值范围边界的影响不大时,可以用正态分布进行近似:

X≈N(μ,σ2),X\approx\mathcal N(\mu,\sigma^2),

其中

μ=np,σ2=np(1−p)N−nN−1.\mu=np, \qquad \sigma^2=np(1-p)\frac{N-n}{N-1}.

对整数 xx 使用连续性校正,可得

Pr⁡(X≤x)≈Φ(x+12−μσ),\Pr(X\leq x) \approx \Phi\left(\frac{x+\tfrac12-\mu}{\sigma}\right),

其中 Φ\Phi 为标准正态分布函数。

样本部分和未抽取部分中成功项与失败项的期望数量,有助于判断这种近似是否合理。如果分布仍然集中在某个边界附近,仅有较大的样本容量并不足以保证近似合理。

泊松近似

在成功事件稀少的情形下,使用泊松分布近似可能是合适的。一组充分的渐近条件是

n→∞,KN→0,nKN→λ,nN→0.n\to\infty,\qquad \frac KN\to0,\qquad n\frac KN\to\lambda,\qquad \frac nN\to0.

此时,极限分布为 Poisson⁡(λ)\operatorname{Poisson}(\lambda)。抽样比可以忽略这一点很重要:仅仅成功事件稀少,并不能消除不放回抽样带来的影响。

在统计推断中的应用

费舍尔精确检验

超几何分布是用于 2×22\times2 列联表的费舍尔精确检验的基础。考虑下表:

成功 失败 合计
第 1 组 xx n−xn-x nn
第 2 组 K−xK-x N−K−n+xN-K-n+x N−nN-n
合计 KK N−KN-K NN

在不存在关联的原假设下,以边际总数为给定条件,左上角单元格的计数服从超几何分布。

将相应尾部中的概率相加,即可得到单侧P值。计算双侧精确 P 值时,需要先定义哪些表至少与观测表同样极端。由于分布是离散的,不同约定可能得出不同结果;将单侧概率简单加倍,并不总是等价于按概率大小排序进行计算。

验收抽样与有限总体推断

在验收抽样中,对于一批包含 NN 个产品、其中有 KK 个次品的货物,如果样本中的次品数不超过 cc,就予以接收。其接收概率为

Pr⁡(X≤c)=∑x=amin⁡(c,b)(Kx)(N−Kn−x)(Nn).\Pr(X\leq c) = \sum_{x=a}^{\min(c,b)} \frac{\binom{K}{x}\binom{N-K}{n-x}} {\binom{N}{n}}.

当 KK 未知时,在 NN 和 nn 固定的情况下,同一概率模型可给出关于 KK 的似然函数。通过反演精确检验,可以得到总体中成功项数或比例的置信区间。由于参数和观测值都是离散的,非随机化的精确方法可能具有高于名义水平的覆盖率。

重叠与富集分析

假设全集包含 NN 个元素,其中某个指定类别包含 KK 个元素,而选定集合包含 nn 个元素。在选定集合从所有大小为 nn 的子集中等概率选出的零模型下,它与该类别的交集大小服从超几何分布。

上尾概率可用于评估某一类别是否过度代表,包括在基因表达结果分析中的应用。结果的解释取决于所选的全集,以及选择机制是否支持各子集等概率的零模型。同时检验多个类别还会引入多重检验问题。

扩展与相关分布

多元超几何分布

如果总体被划分为 mm 个类别,各类别大小为 K1,…,KmK_1,\ldots,K_m,其中 ∑iKi=N\sum_iK_i=N,则样本中各类别的计数服从多元超几何分布:

Pr⁡(X1=x1,…,Xm=xm)=∏i=1m(Kixi)(Nn),\Pr(X_1=x_1,\ldots,X_m=x_m) = \frac{\prod_{i=1}^{m}\binom{K_i}{x_i}} {\binom{N}{n}},

并满足 ∑ixi=n\sum_i x_i=n 和 0≤xi≤Ki0\leq x_i\leq K_i。普通超几何分布就是只有两个类别的情形。

负超几何分布

当不放回抽样持续进行,直到观察到指定数量的成功或失败时,就会出现负超几何分布。其随机变量通常表示停止前的抽取次数,或另一类别结果出现的次数。这与普通超几何模型中固定样本容量的设定不同。

非中心超几何分布

非中心超几何分布用于描述某些类别间选择概率不相等的情形。费舍尔型和沃伦纽斯型描述的是不同机制:前者由成功优势比不同的独立二项计数在给定条件下得到,后者则来自依次进行的加权不放回抽样。当各类别权重相等时,两者都与普通超几何分布一致;但在其他情况下,一般不能互换使用。

数值计算

即使最终概率的大小适中,直接使用阶乘计算仍可能发生溢出。实际实现通常采用二项式系数的对数、专用概率算法,或相邻概率之间的递推关系:

Pr⁡(X=x+1)Pr⁡(X=x)=(K−x)(n−x)(x+1)(N−K−n+x+1),\frac{\Pr(X=x+1)}{\Pr(X=x)} = \frac{(K-x)(n-x)} {(x+1)(N-K-n+x+1)},

其中相邻两个值均须位于取值范围内。

这个比值也解释了该分布名称的由来:相邻概率项之比是下标的有理函数,因此与超几何级数相联系。

为保证数值稳定性,算法可以从众数附近开始,向两侧递推出各项概率,再进行归一化。对于非常小的上尾概率,最好直接计算,而不是用 1 减去一个接近 1 的累积概率,因为后者可能损失有效数字。