博雷尔–坎泰利引理是概率论中用于判定无穷事件序列中的事件是否会无穷多次发生的结论。第一引理指出,如果这些事件的概率之和有限,那么以概率一只有有限多个事件发生。第二引理指出,对于相互独立的事件,如果概率之和发散,那么以概率一有无穷多个事件发生。这两条引理以埃米尔·博雷尔和弗朗切斯科·保罗·坎泰利的名字命名,是证明几乎必然收敛、描述稀有事件长期发生情况的基本工具。
事件无穷多次发生
设 (Ω,F,P) 为概率空间,A1,A2,… 为事件。有无穷多个 An 发生这一事件表示为
{An infinitely often}=m=1⋂∞n=m⋃∞An.
它通常简记为 {An i.o.},称为该事件序列的上极限:
n→∞limsupAn.
一个样本点属于这一事件,当且仅当无论从序列中多靠后的位置开始,后面总有至少一个事件发生。其补事件为
m=1⋃∞n=m⋂∞Anc,
即只有有限多个 An 发生的事件。
这些结论讨论的是整个无穷序列中事件发生的次数,而非某个特定事件是否发生。“几乎必然只有有限多个事件发生”并不意味着发生次数存在一个确定的上界:对于不同的样本点,发生次数可以任意大,但仍然是有限的。
博雷尔–坎泰利第一引理
对于任意事件序列,
n=1∑∞P(An)<∞⟹P(n→∞limsupAn)=0.
这里不需要任何独立性假设。因此,事件概率构成的级数可求和,就能保证这些事件几乎必然在某一项之后不再发生。
利用尾部界的证明
对于每个正整数 m,由可数次可加性可得
P(n=m⋃∞An)≤n=m∑∞P(An).
由于 limsupnAn 包含于每一个这样的并集中,
0≤P(nlimsupAn)≤n=m∑∞P(An).
收敛的无穷级数的尾和趋于零,因此结论成立。
同样的论证还给出了一个实用的尾部概率估计:
P(at least one An occurs for n≥m)≤n=m∑∞P(An).
从发生次数理解第一引理
定义取值可为正无穷的非负随机变量
N=n=1∑∞1An,
其中 1An 是 An 的示性函数。由单调收敛定理,
E[N]=n=1∑∞P(An).
一个期望值有限的非负随机变量,不可能在概率为正的集合上取无穷大。因此,概率之和有限意味着 N<∞ 几乎必然成立。
博雷尔–坎泰利第二引理
如果 A1,A2,… 具有相互统计独立性,那么
n=1∑∞P(An)=∞⟹P(n→∞limsupAn)=1.
将两条引理结合起来可知,当事件相互独立时,有如下二分结论:
P(nlimsupAn)=⎩⎨⎧0,1,n∑P(An)<∞,n∑P(An)=∞,
利用独立性的证明
固定 m。对于 N≥m,由独立性可得
P(n=m⋂NAnc)=n=m∏N(1−P(An)).
利用 0≤x≤1 时成立的不等式 1−x≤e−x,得到
P(n=m⋂NAnc)≤exp(−n=m∑NP(An)).
发散级数的每一个尾和也都发散,因此右端趋于零。由概率对递减事件序列的连续性,
P(n=m⋂∞Anc)=0.
再对所有 m 取可数并,即可说明只有有限多个事件发生的概率为零。
两两独立即已足够
虽然通常在引理的表述中要求相互独立,但要得到概率之和发散时的结论,两两独立就已足够。
固定 m,记
Sm,N=n=m∑N1An,μm,N=n=m∑NP(An).
两两独立使不同示性函数之间的协方差为零。因此,
Var(Sm,N)=n=m∑NP(An)(1−P(An))≤μm,N.
由切比雪夫不等式,只要 μm,N>0,就有
P(Sm,N=0)≤μm,N2Var(Sm,N)≤μm,N1.
如果概率之和发散,这个上界就趋于零。与前面的证明一样,每一段尾部中都几乎必然至少有一个事件发生,由此可知事件会无穷多次发生。
为什么独立性条件很重要
仅凭概率之和发散,无法确定有无穷多个事件发生的概率。
重复同一个事件
令每个 n 都有 An=A,其中 P(A)=p>0。于是
n∑P(An)=∞,nlimsupAn=A.
因此
P(An i.o.)=p,
它可以是 (0,1] 中的任意值。重复同一个事件,并不会带来新的、彼此独立的发生机会。
概率之和发散的递减事件序列
设 U 服从 (0,1) 上的均匀分布,并令
An={U<1/n}.
此时 P(An)=1/n,所以概率之和发散。然而,对每个 U>0,不等式 U<1/n 从某一项起就不再成立。因此
P(An i.o.)=0.
这个例子还说明,总发生次数的期望为无穷大,并不意味着以正概率发生无穷多次。这里的发生次数几乎必然有限,但其期望为无穷大。
例子与应用
成功概率递减的独立试验
假设一系列独立试验的成功事件为 An,且
P(An)=n−α,α>0.
由该级数的收敛判别法可得
α>10<α≤1:only finitely many successes almost surely,:infinitely many successes almost surely.
在第二种情况下,尽管单次成功的概率趋于零,但不断累积的独立机会仍足以使成功发生无穷多次。
证明几乎必然收敛
设 Xn 和 X 为实值随机变量。如果对每个 ε>0,都有
n=1∑∞P(∣Xn−X∣>ε)<∞,
那么 Xn→X 几乎必然成立。
事实上,由第一引理可知,超过任一固定容差的偏差只会发生有限多次。只需检验可数的一族容差 ε=1/k,k≥1 即可。将由此得到的概率为一的事件取交,就能保证每一个这样的容差最终都得到满足。
这是从定量概率界推导逐样本路径收敛的标准方法。只要所需的可求和条件成立,就不需要 Xn 具有独立性。
逆命题不成立。设 U 在 (0,1) 上均匀分布,令
Xn=1{U<1/n}.
则 Xn→0 几乎必然成立,但当 0<ε<1 时,
n∑P(∣Xn∣>ε)=n∑n1=∞.
抽取几乎必然收敛的子序列
如果 Xn→X 依概率收敛,那么存在一个几乎必然收敛的子序列。
选取递增的下标 nk,使得
P(∣Xnk−X∣>2−k)≤2−k.
由依概率收敛,这样的下标确实存在。由于这些上界构成收敛的等比级数,第一引理表明,几乎必然从某一项起有
∣Xnk−X∣≤2−k
成立。因此 Xnk→X 几乎必然成立。
证明强大数定律的一种方法
这些引理常用于完成强大数定律证明的最后一步。例如,设 X1,X2,… 独立同分布,均值为 μ,且四阶中心矩有限。令 Yi=Xi−μ。由独立性及零均值性质可得
E(i=1∑nYi)4=nE[Y14]+3n(n−1)(E[Y12])2.
因此,对于每个 ε>0,存在与 n 无关的有限常数 C,使得
P(n1i=1∑nXi−μ>ε)≤ε4n2C.
这些上界可求和,因此由第一引理可知,样本均值几乎必然收敛。
四阶矩条件是完成上述简短证明的充分条件,但并不是独立同分布随机变量的一般强大数定律所必需的条件。
测度论形式与适用范围
第一引理可以直接推广到测度论。如果 (S,A,μ) 是任意测度空间,且可测集 An 满足
n∑μ(An)<∞,
那么
μ(nlimsupAn)=0.
证明使用同样的尾部并集估计,并不要求 μ(S) 有限。
第二引理则更依赖事件之间的相依关系。虽然存在基于条件概率或对交集加以控制的推广形式,但仅有无条件概率之和发散并不足以推出结论。因此,在实际应用中,需要区分两类结论:概率之和收敛时的结论适用于任意事件,而发散时的结论则需要额外的结构条件。