指数分布是一种连续概率分布 ,用于描述事件以恒定速率发生时,直到事件发生所需的等待时间。它的取值范围为非负数,只有一个正参数,通常用速率 λ \lambda λ 表示。其标志性特征是无记忆性:在事件尚未发生的条件下,剩余等待时间的分布与最初等待时间的分布相同。
指数分布模型将事件计数、等待时间和状态的随机变化联系起来。它们可用于描述齐次泊松过程 中相邻事件之间的时间间隔、许多连续时间随机模型中的状态停留时间,以及失效风险不随使用年限变化的理想化部件寿命。其简洁的数学结构便于进行精确统计推断和高效模拟,但恒定速率这一假设也对其应用构成了很大限制。
定义、参数化与基本量 若随机变量 X X X 的概率密度函数 为
f ( x ) = { λ e − λ x , x ≥ 0 , 0 , x < 0. f(x)= \begin{cases} \lambda e^{-\lambda x},&x\geq0,\\ 0,&x<0. \end{cases} f ( x ) = { λ e − λ x , 0 , x ≥ 0 , x < 0.
则称其服从率参数为 λ > 0 \lambda>0 λ > 0 的指数分布,记作 X ∼ Exp ( λ ) X\sim\operatorname{Exp}(\lambda) X ∼ Exp ( λ ) 。指数函数 使概率密度从零点处的最大值开始连续递减。虽然零点处的概率密度为正,但随机变量取任意单个值(包括零)的概率均为零。该分布是连续分布,并非在原点具有正概率质量的分布。
其累积分布函数 和生存函数为
F ( x ) = 1 − e − λ x , S ( x ) = P ( X > x ) = e − λ x , x ≥ 0. F(x)=1-e^{-\lambda x}, \qquad S(x)=P(X>x)=e^{-\lambda x}, \qquad x\geq0. F ( x ) = 1 − e − λ x , S ( x ) = P ( X > x ) = e − λ x , x ≥ 0.
生存函数给出等待时间超过指定时长的概率。在可靠性计算中,它往往比累积分布函数更方便,因为“在时刻 x x x 仍正常工作”直接对应于 X > x X>x X > x 。对于 0 ≤ a < b 0\leq a<b 0 ≤ a < b ,有
P ( a < X ≤ b ) = e − λ a − e − λ b . P(a<X\leq b)=e^{-\lambda a}-e^{-\lambda b}. P ( a < X ≤ b ) = e − λa − e − λb .
另一种参数化方式使用尺度参数 θ = 1 / λ \theta=1/\lambda θ = 1/ λ ,此时
f ( x ) = 1 θ e − x / θ . f(x)=\frac1\theta e^{-x/\theta}. f ( x ) = θ 1 e − x / θ .
这里,θ \theta θ 的单位与所测时长的单位相同,而 λ \lambda λ 的单位为时间单位的倒数。例如,每分钟发生 0.2 0.2 0.2 次事件的速率,对应的平均等待时间为 5 5 5 分钟。混淆率参数和尺度参数会把这一关系颠倒,因此,若不说明采用哪种约定,仅说“参数为 5 的指数分布”并不完整。不同软件库采用的参数化方式也有所不同。
求解 F ( x ) = p F(x)=p F ( x ) = p ,可得分位数函数 :
Q ( p ) = − ln ( 1 − p ) λ , 0 < p < 1. Q(p)=-\frac{\ln(1-p)}{\lambda}, \qquad 0<p<1. Q ( p ) = − λ ln ( 1 − p ) , 0 < p < 1.
因此,中位数 为 ( ln 2 ) / λ (\ln2)/\lambda ( ln 2 ) / λ ,约为均值的 0.693 0.693 0.693 倍。第 95 百分位数约为 2.996 / λ 2.996/\lambda 2.996/ λ 。约有 36.8 % 36.8\% 36.8% 的观测值超过均值,因为 P ( X > 1 / λ ) = e − 1 P(X>1/\lambda)=e^{-1} P ( X > 1/ λ ) = e − 1 。这些数值体现了该分布明显的右偏特征:大多数观测值低于均值,但较长的右尾将均值拉高。
将 X X X 乘以一个正常数,其率参数会发生如下变化:
c X ∼ Exp ( λ / c ) . cX\sim\operatorname{Exp}(\lambda/c). c X ∼ Exp ( λ / c ) .
因此,将时间单位从分钟改为秒,会改变率参数的数值,但不会改变其背后的概率模型。相比之下,加上一个固定延迟会得到平移指数分布,其取值范围的下端点大于零;这一模型不同于通常的单参数指数分布。
矩、变换与变异性 期望值 和方差 分别为
E [ X ] = 1 λ , Var ( X ) = 1 λ 2 . E[X]=\frac1\lambda, \qquad \operatorname{Var}(X)=\frac1{\lambda^2}. E [ X ] = λ 1 , Var ( X ) = λ 2 1 .
因此,标准差 等于均值。标准差与均值之比称为变异系数,其值恰好为一。这是一项很强的结构性限制:改变速率参数会使观测值按比例缩放,却无法独立改变其相对变异程度。如果数据的标准差远小于或远大于均值,可能需要采用其他模型,不过抽样波动和观测不完整也会影响实证比较。
更一般地,对于任意实数 r > − 1 r>-1 r > − 1 ,
E [ X r ] = Γ ( r + 1 ) λ r , E[X^r]=\frac{\Gamma(r+1)}{\lambda^r}, E [ X r ] = λ r Γ ( r + 1 ) ,
其中 Γ \Gamma Γ 为伽马函数 。对于非负整数 k k k ,上式变为
E [ X k ] = k ! λ k . E[X^k]=\frac{k!}{\lambda^k}. E [ X k ] = λ k k ! .
在定义期望值的积分 中作代换 u = λ x u=\lambda x u = λ x ,即可得到这一公式。所有非负整数阶矩都是有限的。负阶矩则需要谨慎处理:例如,E [ X − 1 ] E[X^{-1}] E [ X − 1 ] 发散,因为密度在任意接近零的地方仍为正。
矩母函数 为
M X ( t ) = E [ e t X ] = λ λ − t , t < λ . M_X(t)=E[e^{tX}]=\frac{\lambda}{\lambda-t}, \qquad t<\lambda. M X ( t ) = E [ e tX ] = λ − t λ , t < λ .
其定义域十分重要:当 t ≥ λ t\geq\lambda t ≥ λ 时,该期望为无穷大。对这一表达式取对数,便得到累积量生成函数:
K X ( t ) = − ln ( 1 − t / λ ) . K_X(t)=-\ln(1-t/\lambda). K X ( t ) = − ln ( 1 − t / λ ) .
将其在零点附近展开,可得第 r r r 阶累积量
κ r = ( r − 1 ) ! λ r . \kappa_r=\frac{(r-1)!}{\lambda^r}. κ r = λ r ( r − 1 )! .
标准化三阶中心矩,即偏度,为 2 2 2 ,超额峰度为 6 6 6 。两者都与速率参数无关,因为这一分布族的所有成员经过尺度变换后都具有相同的形状。
拉普拉斯变换 具有一种特别实用的形式:
E [ e − s X ] = λ λ + s , s ≥ 0. E[e^{-sX}]=\frac{\lambda}{\lambda+s}, \qquad s\geq0. E [ e − s X ] = λ + s λ , s ≥ 0.
对于相互独立的非负随机变量,其和的变换等于各自变换的乘积。利用这一性质,可以从服从指数分布的等待时间直接推导出伽马分布及相关分布。特征函数对于任意实数 t t t 都存在,其表达式为
E [ e i t X ] = λ λ − i t . E[e^{itX}]=\frac{\lambda}{\lambda-it}. E [ e i tX ] = λ − i t λ .
指数分布的尾部衰减速度快于 x x x 的任意负幂,但慢于形如 e − c x 2 e^{-cx^2} e − c x 2 的高斯尾部。因此,按照要求矩母函数在每个正自变量处均为无穷大的通常定义,指数分布并不是重尾分布。不过,与许多寿命高度集中的模型相比,异常漫长的等待仍要常见得多。恒等式 P ( X > k E [ X ] ) = e − k P(X>kE[X])=e^{-k} P ( X > k E [ X ]) = e − k 明确给出了这类尾部事件的概率尺度。
无记忆性与恒定风险率 指数分布满足
P ( X > s + t ∣ X > s ) = P ( X > t ) , s , t ≥ 0. P(X>s+t\mid X>s)=P(X>t), \qquad s,t\geq0. P ( X > s + t ∣ X > s ) = P ( X > t ) , s , t ≥ 0.
根据条件概率 ,左侧可化为
S ( s + t ) S ( s ) = e − λ ( s + t ) e − λ s = e − λ t . \frac{S(s+t)}{S(s)} = \frac{e^{-\lambda(s+t)}}{e^{-\lambda s}} =e^{-\lambda t}. S ( s ) S ( s + t ) = e − λ s e − λ ( s + t ) = e − λ t .
因此,已经存活了 s s s 这么长的时间,并不会改变后续等待时间的分布。如果某个部件的寿命服从均值为十小时的指数分布,那么,在已知它已正常运行七小时的条件下,其期望剩余寿命仍为十小时。在这一条件下,其期望总寿命为十七小时。
在通常的非退化假设下,在取值非负且总概率为一的连续分布中,无记忆性是指数分布独有的性质。如果 S ( t ) > 0 S(t)>0 S ( t ) > 0 ,且无记忆性恒等式成立,则有
S ( s + t ) = S ( s ) S ( t ) . S(s+t)=S(s)S(t). S ( s + t ) = S ( s ) S ( t ) .
令 g ( t ) = − ln S ( t ) g(t)=-\ln S(t) g ( t ) = − ln S ( t ) ,便得到加性方程 g ( s + t ) = g ( s ) + g ( t ) g(s+t)=g(s)+g(t) g ( s + t ) = g ( s ) + g ( t ) 。生存函数所具有的单调性排除了病态的加性解,从而得到 g ( t ) = λ t g(t)=\lambda t g ( t ) = λ t 。因此,S ( t ) = e − λ t S(t)=e^{-\lambda t} S ( t ) = e − λ t ;对于非退化且总概率为一的分布,有 λ > 0 \lambda>0 λ > 0 。
这一性质也可以通过风险函数 来表述:
h ( t ) = f ( t ) S ( t ) = λ . h(t)=\frac{f(t)}{S(t)}=\lambda. h ( t ) = S ( t ) f ( t ) = λ .
对于很小的 Δ t > 0 \Delta t>0 Δ t > 0 ,有
P ( t < X ≤ t + Δ t ∣ X > t ) = λ Δ t + o ( Δ t ) . P(t<X\leq t+\Delta t\mid X>t) =\lambda\Delta t+o(\Delta t). P ( t < X ≤ t + Δ t ∣ X > t ) = λ Δ t + o ( Δ t ) .
风险率是瞬时条件发生率,而不是概率。它的量纲是时间的倒数,数值可以大于一。每小时 2 2 2 的发生率并不意味着概率为 2 2 2 ;相应的一小时内事件发生概率为 1 − e − 2 1-e^{-2} 1 − e − 2 。
对于一般的绝对连续非负寿命分布,有
S ( t ) = exp [ − ∫ 0 t h ( u ) d u ] . S(t)=\exp\left[-\int_0^t h(u)\,du\right]. S ( t ) = exp [ − ∫ 0 t h ( u ) d u ] .
因此,恒定风险率对应于指数形式的生存函数。累积风险函数
H ( t ) = − ln S ( t ) , H(t)=-\ln S(t), H ( t ) = − ln S ( t ) ,
是一条直线 λ t \lambda t λ t 。在以生存概率的对数为纵轴的图中,指数分布的生存曲线呈直线,因此这种表示方式有助于检验恒定风险率假设。
不应将无记忆性与不同寿命之间的统计独立性 混为一谈。多个变量各自的边缘分布都可以是指数分布,但它们之间仍可能存在依赖关系。无记忆性也不意味着已经过的时间与所有问题都无关:再存活五小时的概率不随当前年龄而改变,但存活超过最初五小时的概率并不是一。这一性质针对的是剩余寿命的条件分布,并不意味着可以从模型的所有方面都抹去已经获得的信息。
泊松过程与连续时间动力学 最直接的随机过程解释来自速率为 λ \lambda λ 的齐次泊松过程 N ( t ) N(t) N ( t ) 。在长度为 t t t 的时间区间内,事件数服从均值为 λ t \lambda t λ t 的泊松分布 ,且互不相交的区间内的事件数相互独立。若 T 1 T_1 T 1 为首个事件的发生时刻,则
P ( T 1 > t ) = P ( N ( t ) = 0 ) = e − λ t . P(T_1>t)=P(N(t)=0)=e^{-\lambda t}. P ( T 1 > t ) = P ( N ( t ) = 0 ) = e − λ t .
因此,T 1 T_1 T 1 服从指数分布。相邻事件之间的时间间隔相互独立,且服从速率相同的指数分布;反过来,将这样的等待时间依次累加,就能构造出一个齐次泊松过程。
这种等价关系也说明,事件计数分布与等待时间分布是有区别的。当事件以每小时三次的速率发生时,一小时内的事件数服从均值为三的泊松分布,而相邻事件之间的时间间隔服从均值为三分之一小时的指数分布。二十分钟内没有事件发生的概率为 e − 1 e^{-1} e − 1 ,而同一时间区间内恰好发生一次事件的概率也为 e − 1 e^{-1} e − 1 。这两个相等的数值对应的是不同的事件,所依据的概率分布也不同。
当事件发生速率随实际时间变化时,上述关系也会改变。对于具有确定性强度函数 λ ( u ) \lambda(u) λ ( u ) 的非齐次泊松过程,从时刻 t t t 起算的等待时间 W t W_t W t 满足
P ( W t > w ) = exp [ − ∫ t t + w λ ( u ) d u ] . P(W_t>w)= \exp\left[-\int_t^{t+w}\lambda(u)\,du\right]. P ( W t > w ) = exp [ − ∫ t t + w λ ( u ) d u ] .
在通常的时间尺度下,这一等待时间未必服从指数分布。若用累积强度来度量时间间隔,就可以重新得到服从标准指数分布的等待时间;但速率固定的指数模型通常无法描述可预测的日周期或季节性速率变化。
服从指数分布的停留时间也是连续时间马尔可夫链 的基础。若链处于状态 i i i ,且 q i j q_{ij} q ij 为转移至状态 j j j 的速率,则其总离开速率为
q i = ∑ j ≠ i q i j . q_i=\sum_{j\ne i}q_{ij}. q i = j = i ∑ q ij .
当 0 < q i < ∞ 0<q_i<\infty 0 < q i < ∞ 时,离开状态 i i i 前的停留时间服从速率为 q i q_i q i 的指数分布。下一个状态为 j j j 的概率是 q i j / q i q_{ij}/q_i q ij / q i ,且下一个状态的选择与该停留时间相互独立。若 q i = 0 q_i=0 q i = 0 ,则该状态是吸收态,而不是具有正常的有限指数停留时间的状态。
无记忆性解释了为什么当前状态就能包含预测未来演化所需的充分信息:模型无须额外记录链已在该状态停留了多久。相比之下,非指数分布的停留时间通常需要引入已逝时间变量,或采用更广泛的过程框架。马尔可夫性质 关注的是以当前状态为条件时的依赖关系;对于时间齐次、状态离散且离开速率有限的纯跳模型,指数停留时间是这一性质的典型体现。
竞争时钟与次序统计量 设 X 1 , … , X m X_1,\ldots,X_m X 1 , … , X m 为相互独立的指数随机变量,各自的速率参数为 λ 1 , … , λ m \lambda_1,\ldots,\lambda_m λ 1 , … , λ m 。它们的最小值
T = min i X i T=\min_i X_i T = i min X i
服从指数分布,其速率参数为
Λ = ∑ i = 1 m λ i . \Lambda=\sum_{i=1}^m\lambda_i. Λ = i = 1 ∑ m λ i .
事实上,
P ( T > t ) = ∏ i = 1 m P ( X i > t ) = ∏ i = 1 m e − λ i t = e − Λ t . P(T>t)=\prod_{i=1}^mP(X_i>t) =\prod_{i=1}^m e^{-\lambda_i t} =e^{-\Lambda t}. P ( T > t ) = i = 1 ∏ m P ( X i > t ) = i = 1 ∏ m e − λ i t = e − Λ t .
这就是竞争指数时钟的基本数学原理:增加可能触发事件的独立机制,会提高事件发生的总速率。
时钟 i i i 最先响起的概率为
P ( X i = T ) = λ i Λ . P(X_i=T)=\frac{\lambda_i}{\Lambda}. P ( X i = T ) = Λ λ i .
更强的结论是:最先响起的是哪个时钟,与它响起的时刻相互独立。它们的联合密度为
P ( T ∈ d t , i first ) = λ i e − Λ t d t , P(T\in dt,\ i\text{ first}) =\lambda_i e^{-\Lambda t}\,dt, P ( T ∈ d t , i first ) = λ i e − Λ t d t ,
可以分解为 T T T 的密度与概率 λ i / Λ \lambda_i/\Lambda λ i /Λ 的乘积。多个时钟同时响起的概率为零。这种分解为事件驱动模拟提供了依据:先根据总速率抽取一个等待时间,再按各类事件的速率所占的比例选择事件类型。
在可靠性理论中,串联系统在第一个部件失效时就会失效。因此,如果各部件的寿命相互独立且服从指数分布,系统寿命也服从指数分布,其速率参数等于各部件失效率之和。并联系统则会一直工作,直到所有部件都失效,因此涉及的是最大值。对于速率参数均为 λ \lambda λ 的独立部件,
P ( max i X i ≤ t ) = ( 1 − e − λ t ) m . P\left(\max_iX_i\leq t\right) =(1-e^{-\lambda t})^m. P ( i max X i ≤ t ) = ( 1 − e − λ t ) m .
除 m = 1 m=1 m = 1 的情形外,这并不是指数分布。
对于来自同一指数分布、容量为 n n n 的独立样本,令
X ( 1 ) ≤ ⋯ ≤ X ( n ) X_{(1)}\leq\cdots\leq X_{(n)} X ( 1 ) ≤ ⋯ ≤ X ( n )
表示其次序统计量 。定义 X ( 0 ) = 0 X_{(0)}=0 X ( 0 ) = 0 ,并定义间距 D k = X ( k ) − X ( k − 1 ) D_k=X_{(k)}-X_{(k-1)} D k = X ( k ) − X ( k − 1 ) 。这些间距相互独立,且
D k ∼ Exp ( ( n − k + 1 ) λ ) . D_k\sim\operatorname{Exp}((n-k+1)\lambda). D k ∼ Exp (( n − k + 1 ) λ ) .
起初,有 n n n 个时钟相互竞争。第一个事件发生后,由于无记忆性,剩下的 n − 1 n-1 n − 1 个时钟的剩余等待时间仍相互独立且服从指数分布;随后可以反复应用这一论证。
因此,
E [ X ( k ) ] = 1 λ ∑ j = n − k + 1 n 1 j . E[X_{(k)}] =\frac1\lambda\sum_{j=n-k+1}^{n}\frac1j. E [ X ( k ) ] = λ 1 j = n − k + 1 ∑ n j 1 .
最小值的期望为 1 / ( n λ ) 1/(n\lambda) 1/ ( nλ ) ,而最大值的期望为 H n / λ H_n/\lambda H n / λ ,其中 H n = ∑ j = 1 n 1 / j H_n=\sum_{j=1}^n1/j H n = ∑ j = 1 n 1/ j 。后者近似按 ( ln n + γ ) / λ (\ln n+\gamma)/\lambda ( ln n + γ ) / λ 增长,其中 γ \gamma γ 为欧拉常数。因此,部件越多,首次失效前的时间越短,但所有部件全部失效所需的时间越长。独立性假设至关重要:共同的环境冲击或其他依赖关系,可能使速率相加的规则和上述间距表示都不再成立。
与其他概率分布的关系 指数分布是伽马分布 在形状参数为 1 时的特例。采用率参数表示时,形状参数为 α > 0 \alpha>0 α > 0 的伽马随机变量具有密度
f ( x ) = λ α Γ ( α ) x α − 1 e − λ x , x > 0. f(x)=\frac{\lambda^\alpha}{\Gamma(\alpha)} x^{\alpha-1}e^{-\lambda x}, \qquad x>0. f ( x ) = Γ ( α ) λ α x α − 1 e − λ x , x > 0.
令 α = 1 \alpha=1 α = 1 ,便得到指数分布的密度。若 X 1 , … , X n X_1,\ldots,X_n X 1 , … , X n 是相互独立且具有相同率参数的指数随机变量,则它们的和服从伽马分布:
∑ i = 1 n X i ∼ Gamma ( n , λ ) . \sum_{i=1}^nX_i\sim\operatorname{Gamma}(n,\lambda). i = 1 ∑ n X i ∼ Gamma ( n , λ ) .
当形状参数为整数时,这也称为爱尔朗分布,表示齐次泊松过程中第 n n n 个事件发生前的等待时间。
率参数相等这一条件很重要。不同率参数的独立指数随机变量之和通常服从亚指数分布,而不是伽马分布。另一种构造方式是先随机选取一个指数分布的率参数,再从该分布中抽取一个等待时间。这样得到的是指数分布的混合,而非指数随机变量之和。这类混合分布的风险率可能递减,因为等待时间较长的观测值越来越可能来自率参数较低的分量。无论任意求和还是任意混合,都不能保证保留无记忆性。
卡方分布 是伽马分布的另一个特例。若 X ∼ Exp ( λ ) X\sim\operatorname{Exp}(\lambda) X ∼ Exp ( λ ) ,则
2 λ X ∼ χ 2 2 . 2\lambda X\sim\chi^2_2. 2 λ X ∼ χ 2 2 .
对于独立样本,有
2 λ ∑ i = 1 n X i ∼ χ 2 n 2 . 2\lambda\sum_{i=1}^nX_i\sim\chi^2_{2n}. 2 λ i = 1 ∑ n X i ∼ χ 2 n 2 .
这一精确的分布关系是构造指数分布率参数的置信区间和进行假设检验的关键。它也说明了为什么自由度为 2 的卡方分布具有递减的密度,而不像较高自由度的卡方分布那样,在中部呈现更明显的峰形。
几何分布 是指数分布的离散对应分布。若约定几何随机变量表示直到首次成功所需的试验次数,则其生存概率满足
P ( G > k ) = ( 1 − p ) k . P(G>k)=(1-p)^k. P ( G > k ) = ( 1 − p ) k .
它在非负整数时间尺度上具有无记忆性。若每隔 Δ \Delta Δ 个时间单位进行一次试验,且 p Δ = 1 − e − λ Δ p_\Delta=1-e^{-\lambda\Delta} p Δ = 1 − e − λ Δ ,则当 Δ \Delta Δ 趋于零时,缩放后的等待时间 Δ G \Delta G Δ G 依分布收敛于指数随机变量。
威布尔分布 将指数分布的生存函数推广为
S ( x ) = exp [ − ( x / η ) k ] , η , k > 0. S(x)=\exp[-(x/\eta)^k], \qquad \eta,k>0. S ( x ) = exp [ − ( x / η ) k ] , η , k > 0.
其风险率为
h ( x ) = k η ( x / η ) k − 1 . h(x)=\frac{k}{\eta}(x/\eta)^{k-1}. h ( x ) = η k ( x / η ) k − 1 .
当 k = 1 k=1 k = 1 时,它就是指数分布;当 k > 1 k>1 k > 1 时,风险率递增;当 k < 1 k<1 k < 1 时,风险率递减。
另一个关系来自独立指数随机变量在给定其和时的条件分布。若 S = ∑ i X i S=\sum_iX_i S = ∑ i X i ,且所有率参数相等,则各比例 X i / S X_i/S X i / S 构成的向量与 S S S 独立,并在概率单纯形上均匀分布。对于两个变量,X 1 / ( X 1 + X 2 ) X_1/(X_1+X_2) X 1 / ( X 1 + X 2 ) 在 ( 0 , 1 ) (0,1) ( 0 , 1 ) 上服从均匀分布 。这些归一化表示可用于模拟,以及构造更一般的比例分布。
参数估计与精确频率学派推断 对于来自指数分布的独立观测值 x 1 , … , x n x_1,\ldots,x_n x 1 , … , x n ,似然函数 为
L ( λ ) = λ n e − λ S , S = ∑ i = 1 n x i . L(\lambda)=\lambda^n e^{-\lambda S}, \qquad S=\sum_{i=1}^n x_i. L ( λ ) = λ n e − λ S , S = i = 1 ∑ n x i .
其对数为 n ln λ − λ S n\ln\lambda-\lambda S n ln λ − λ S 。求导可得最大似然估计 量
λ ^ = n S = 1 X ˉ . \widehat{\lambda}=\frac nS=\frac1{\bar X}. λ = S n = X ˉ 1 .
尺度参数 θ = 1 / λ \theta=1/\lambda θ = 1/ λ 的最大似然估计量就是样本均值 X ˉ \bar X X ˉ 。似然函数仅通过 S S S 依赖于样本,因此 S S S 是速率参数的充分统计量 。
上述速率估计量并非无偏。由于 S ∼ Gamma ( n , λ ) S\sim\operatorname{Gamma}(n,\lambda) S ∼ Gamma ( n , λ ) ,
E [ λ ^ ] = n n − 1 λ , n > 1. E[\widehat{\lambda}] =\frac{n}{n-1}\lambda, \qquad n>1. E [ λ ] = n − 1 n λ , n > 1.
一个无偏估计量为
λ ~ = n − 1 S . \widetilde{\lambda}=\frac{n-1}{S}. λ = S n − 1 .
当 n > 2 n>2 n > 2 时,
Var ( λ ~ ) = λ 2 n − 2 . \operatorname{Var}(\widetilde{\lambda}) =\frac{\lambda^2}{n-2}. Var ( λ ) = n − 2 λ 2 .
这些对样本量的限制源于伽马分布负阶矩的发散。特别地,当 n = 1 n=1 n = 1 时,速率参数的最大似然估计量虽然以概率 1 取有限值,其期望却为无穷大。这说明,估计量在典型样本上的表现与其理论矩是否存在,是两个不同的问题。
n n n 个完整观测值所包含的费希尔信息 为 n / λ 2 n/\lambda^2 n / λ 2 。在大样本近似下,
n ( λ ^ − λ ) → d N ( 0 , λ 2 ) . \sqrt n(\widehat{\lambda}-\lambda) \ \xrightarrow{d}\ N(0,\lambda^2). n ( λ − λ ) d N ( 0 , λ 2 ) .
因此,近似标准误 为 λ ^ / n \widehat{\lambda}/\sqrt n λ / n 。在小样本情况下,直接基于这一正态近似构造的区间可能延伸至零以下,而精确区间则始终位于正值参数空间内。
令 χ ν , p 2 \chi^2_{\nu,p} χ ν , p 2 表示自由度 为 ν \nu ν 的卡方分布的 p p p 分位数。利用枢轴量 2 λ S ∼ χ 2 n 2 2\lambda S\sim\chi^2_{2n} 2 λ S ∼ χ 2 n 2 ,可得精确的 100 ( 1 − α ) % 100(1-\alpha)\% 100 ( 1 − α ) % 置信区间 :
[ χ 2 n , α / 2 2 2 S , χ 2 n , 1 − α / 2 2 2 S ] . \left[ \frac{\chi^2_{2n,\alpha/2}}{2S}, \frac{\chi^2_{2n,1-\alpha/2}}{2S} \right]. [ 2 S χ 2 n , α /2 2 , 2 S χ 2 n , 1 − α /2 2 ] .
将两个端点取倒数并交换次序,即可得到平均寿命的相应区间。
例如,假设十个完整观测的等待时间合计为五十小时,则估计速率为每小时 0.2 0.2 0.2 ,估计平均等待时间为五小时。使用 χ 20 2 \chi^2_{20} χ 20 2 的第 2.5 和第 97.5 百分位数的近似值 9.591 9.591 9.591 和 34.170 34.170 34.170 ,可得速率的精确 95% 置信区间约为每小时 [ 0.0959 , 0.3417 ] [0.0959,0.3417] [ 0.0959 , 0.3417 ] 。相应的平均等待时间区间约为 [ 2.93 , 10.43 ] [2.93,10.43] [ 2.93 , 10.43 ] 小时。这些区间量化的是指数抽样模型下的不确定性,并不能证明该模型的恒定风险率假设是正确的。
删失与贝叶斯分析 寿命观测往往并不完整。在右删失 情形下,观测结束时,部分事件尚未发生。对于受试者或部件 i i i ,令
y i = min ( X i , c i ) , y_i=\min(X_i,c_i), y i = min ( X i , c i ) ,
其中 c i c_i c i 为删失时间;若观测到事件,则令 δ i = 1 \delta_i=1 δ i = 1 ,否则为 0 0 0 。在独立、非信息性删失的条件下,其似然贡献中涉及 λ \lambda λ 的部分为
f ( y i ) δ i S ( y i ) 1 − δ i = λ δ i e − λ y i . f(y_i)^{\delta_i}S(y_i)^{1-\delta_i} =\lambda^{\delta_i}e^{-\lambda y_i}. f ( y i ) δ i S ( y i ) 1 − δ i = λ δ i e − λ y i .
因此,联合似然具有如下形式:
L ( λ ) ∝ λ d e − λ T , d = ∑ i δ i , T = ∑ i y i . L(\lambda)\propto\lambda^d e^{-\lambda T}, \qquad d=\sum_i\delta_i,\quad T=\sum_i y_i. L ( λ ) ∝ λ d e − λ T , d = i ∑ δ i , T = i ∑ y i .
当 d > 0 d>0 d > 0 时,速率参数的最大似然估计为 d / T d/T d / T ,即观测到的事件数除以总风险暴露时间。每个删失观测虽然不贡献事件数,却仍贡献暴露时间。忽略删失观测会丢弃这部分信息,通常会使推断产生偏差。如果未观测到任何事件,似然就会随 λ \lambda λ 的增大而减小;其上确界在 λ \lambda λ 趋近边界值零时达到,而不是在某个正的内部估计值处达到。
似然形式简单,并不意味着所有删失方案都等价。d d d 和 T T T 的抽样分布取决于观测如何终止。在定时删失下,观测到的失效数是随机的;在达到指定失效数便停止观测的设计中,失效数则是固定的。精确推断方法必须考虑这些差异,而不能直接套用完整样本的公式。对于左截断,即受试者只有存活至某一给定年龄后才进入观测的情况,也需要以进入观测为条件进行分析。
在贝叶斯推断 中,伽马分布是指数分布速率参数的共轭先验 。若先验分布的形状参数为 a > 0 a>0 a > 0 ,速率参数为 b > 0 b>0 b > 0 ,则
π ( λ ) ∝ λ a − 1 e − b λ . \pi(\lambda)\propto\lambda^{a-1}e^{-b\lambda}. π ( λ ) ∝ λ a − 1 e − bλ .
由删失数据的似然可得后验分布
λ ∣ data ∼ Gamma ( a + d , b + T ) . \lambda\mid\text{data} \sim\operatorname{Gamma}(a+d,b+T). λ ∣ data ∼ Gamma ( a + d , b + T ) .
完整观测对应于 d = n d=n d = n 这一特殊情形。速率参数的后验均值为 ( a + d ) / ( b + T ) (a+d)/(b+T) ( a + d ) / ( b + T ) ,而后验分位数可用于构造该参数的可信区间 。
对后验分布积分后,未来等待时间 X n e w X_{\mathrm{new}} X new 将服从另一种分布。若 A = a + d A=a+d A = a + d 、B = b + T B=b+T B = b + T ,则其后验预测分布 的生存函数为
P ( X n e w > x ∣ data ) = E [ e − λ x ∣ data ] = ( B B + x ) A . P(X_{\mathrm{new}}>x\mid\text{data}) =E[e^{-\lambda x}\mid\text{data}] =\left(\frac B{B+x}\right)^A. P ( X new > x ∣ data ) = E [ e − λ x ∣ data ] = ( B + x B ) A .
这是 Lomax 分布(又称Ⅱ型帕累托分布)的生存函数,而不是指数分布的生存函数。其风险率为 A / ( B + x ) A/(B+x) A / ( B + x ) ,随已经过的时间递减。因此,即使真实的底层速率固定不变,对该速率的不确定性也会使预测表现不同于直接代入单个速率估计值所得的结果。当 A > 1 A>1 A > 1 时,预测均值为 B / ( A − 1 ) B/(A-1) B / ( A − 1 ) ;否则为无穷大。
模拟、信息与模型评估 最简单的模拟方法是逆变换法。若 U U U 在 ( 0 , 1 ) (0,1) ( 0 , 1 ) 上服从均匀分布,则
X = − ln U λ X=-\frac{\ln U}{\lambda} X = − λ ln U
服从指数分布。等价地,也可取 X = − ln ( 1 − U ) / λ X=-\ln(1-U)/\lambda X = − ln ( 1 − U ) / λ 。随机数生成的实现必须谨慎处理端点:ln 0 \ln0 ln 0 无定义,因此,若生成器可能返回零,就需要采用相应的处理约定。对于较小的 u u u ,计算 − ln ( 1 − u ) -\ln(1-u) − ln ( 1 − u ) 时,使用专门的 log1p 运算可改善数值稳定性 。类似地,在接近零时,可使用 expm1 准确计算 1 − e − λ x 1-e^{-\lambda x} 1 − e − λ x 。
对于相互独立、按指数分布计时的事件,模拟时可以采用总速率构造法,而不必分别生成每个事件的等待时间。设各事件的发生速率为 a 1 , … , a m a_1,\ldots,a_m a 1 , … , a m ,先从速率为 a 0 = ∑ i a i a_0=\sum_i a_i a 0 = ∑ i a i 的指数分布中抽取一个等待时间,再以概率 a i / a 0 a_i/a_0 a i / a 0 选择事件 i i i 。事件发生后,更新各项速率。这是用于连续时间反应模型的直接法 Gillespie 算法 的基础。该方法的精确性是相对于跳跃之间倾向函数保持不变的跳跃过程模型而言的;若倾向函数显式依赖时间,则需要修改处理方法。
指数分布在信息论 中也具有基础性作用。在 [ 0 , ∞ ) [0,\infty) [ 0 , ∞ ) 上所有均值为给定有限值 μ \mu μ 的绝对连续分布中,指数分布的微分熵 最大。采用自然对数时,
h ( X ) = 1 − ln λ = 1 + ln μ . h(X)=1-\ln\lambda=1+\ln\mu. h ( X ) = 1 − ln λ = 1 + ln μ .
对于任何具有相同均值且满足适当可积性条件的其他密度 p p p ,由 p p p 相对于指数分布密度的 KL散度 的非负性可得
h ( p ) ≤ 1 + ln μ . h(p)\leq1+\ln\mu. h ( p ) ≤ 1 + ln μ .
微分熵依赖于测量尺度,因此其数值以固定的计量单位为前提。这一最大熵结果确定了给定约束下的一个分布,但并不能证明所观测事件的发生机制具有恒定风险率。
模型评估着重检验这些结构性假设。如果恒定风险率这一假设合理,那么经验生存曲线在取负对数后应近似呈线性。分位数比较和拟合优度检验可以发现偏离模型的情况,但在校准检验时,必须考虑速率参数也是根据同一组数据估计的这一事实。变异系数接近一与指数分布模型相容,但不能据此唯一确定该模型。相继等待时间之间的独立性也必须单独检验,不能与其边缘分布的检验混为一谈。
应用包括理想化的放射性衰变等待时间、服务时间服从指数分布的排队模型,以及风险率近似恒定的运行阶段的可靠性模型。老化、早期失效、最短服务时长、聚集现象以及个体之间持续存在的差异,都可能使该模型不再适用。例如,M/M/1 队列 假设到达过程为泊松过程,且各次服务时间相互独立并服从指数分布;这一记号所表达的是实质性的假设,而不是仅凭平均到达率和平均服务率就能得出的结论。仅拟合均值,既不能确立等待时间服从指数分布,也不能确立事件过程为泊松过程。