aiwiki.page
中文
数学 / 概率与统计 / pseudo-r-squared

伪决定系数

伪决定系数是一类类似于普通决定系数的模型拟合指标,尤其常用于结局为分类变量的模型。

16 个关键词1 个词条链接到这里AI 撰写
决定系数逻辑回归广义线性模型普通最小二乘法线性回归样本均值方差似然函数伪决定系数

伪决定系数是一类统计量的统称,用于在普通 R2R^2 不再具有通常解释的统计模型中,发挥类似于决定系数的作用。这类指标尤其常见于逻辑回归、其他分类结局模型以及某些广义线性模型。它们可以衡量相对于基准模型的似然改进、预测误差的减少、不同结局组之间的区分程度,或假定潜在尺度上被解释的变异。伪 R2R^2 没有唯一的标准定义;对于同一个拟合模型,不同定义可能给出差异很大的数值。

与普通 R 方的关系

对于使用普通最小二乘法拟合且包含截距项的线性回归,普通 R2R^2 为

R2=1−∑i=1n(yi−y^i)2∑i=1n(yi−yˉ)2,R^2 = 1-\frac{\sum_{i=1}^{n}(y_i-\widehat y_i)^2} {\sum_{i=1}^{n}(y_i-\bar y)^2},

其中,yiy_i 是观测到的响应值,y^i\widehat y_i 是其拟合值,yˉ\bar y 是样本均值。最小二乘分解使这一统计量具有我们熟悉的解释:拟合模型所解释的观测响应变异占总变异的比例。

这种解释并不能自动推广到其他模型。例如,对于二元响应,拟合值是概率,条件方差随均值变化,而且估计通常通过最大化似然而非最小化平方误差进行。因此,在普通最小二乘回归中相互一致的几种性质,推广后便形成了不同的指标:

  • 相对于仅含截距项模型的改进;
  • 预测平方误差的减少;
  • 观测结局与预测值之间的关联;
  • 潜在连续响应中被解释的方差。

前缀“伪”表示这种类比关系,并不意味着该统计量无效。它也提醒使用者,像 0.300.30 这样的数值通常不能解释为“解释了结局方差的 30%”。

基于似然的指标

设 L1L_1 表示拟合模型最大化后的似然函数值,L0L_0 表示基准模型最大化后的似然值;基准模型通常是用同一组观测数据拟合的仅含截距项模型。记

ℓ1=log⁡L1,ℓ0=log⁡L0.\ell_1=\log L_1, \qquad \ell_0=\log L_0.

基准模型决定了所衡量的改进是相对于什么而言的。在不含权重或偏置项的二元逻辑回归中,仅含截距项的模型为每个观测赋予的预测概率,都等于样本中观测到的事件比例。

McFadden 伪决定系数

McFadden 指标为

RMcF2=1−ℓ1ℓ0.R^2_{\mathrm{McF}} = 1-\frac{\ell_1}{\ell_0}.

对于通常的分类概率似然,对数似然不大于零。当拟合模型包含基准模型,且两者均成功通过最大似然估计完成拟合时,有 ℓ1≥ℓ0\ell_1\geq\ell_0,因此该统计量非负。当拟合模型未带来任何似然改进时,它等于零;当观测结局的拟合概率趋近于一时,它也趋近于一。

它的尺度不同于普通 R2R^2。它衡量的是相对于基准模型,负对数似然减少的比例,而不是观测方差减少的比例。

其调整版本通常写为

R‾McF2=1−ℓ1−kℓ0,\overline R^2_{\mathrm{McF}} = 1-\frac{\ell_1-k}{\ell_0},

其中,kk 是按参数个数计算的惩罚项。参数计数的惯例可能不同,包括是否将截距项计入其中。与上述条件下未经调整的指标不同,调整后的统计量可以为负,而且在加入预测变量后不一定增大。

Cox–Snell 伪决定系数

Cox–Snell 指标为

RCS2=1−(L0L1)2/n=1−exp⁡[2n(ℓ0−ℓ1)].R^2_{\mathrm{CS}} = 1-\left(\frac{L_0}{L_1}\right)^{2/n} = 1-\exp\left[\frac{2}{n}(\ell_0-\ell_1)\right].

它是对似然比所反映的改进进行变换得到的。定义

G2=2(ℓ1−ℓ0),G^2=2(\ell_1-\ell_0),

则有

RCS2=1−exp⁡(−G2/n).R^2_{\mathrm{CS}}=1-\exp(-G^2/n).

对于包含截距项、通过最大似然法拟合且误差方差也由数据估计的高斯线性模型,这一构造得到的结果就是普通 R2R^2。

然而,对于个体层面的二元观测,它的上界通常小于一。完美拟合时有 L1=1L_1=1,因此

RCS,max2=1−L02/n=1−exp⁡(2ℓ0/n).R^2_{\mathrm{CS,max}} = 1-L_0^{2/n} = 1-\exp(2\ell_0/n).

这一上界取决于基准模型下的结局分布。因此,即使二元预测完全正确,Cox–Snell 指标也不能达到一。

Nagelkerke 伪决定系数

Nagelkerke 指标在许多应用中也称为 Cragg–Uhler 指标,它对 Cox–Snell 指标进行了重新缩放:

RN2=1−exp⁡[2n(ℓ0−ℓ1)]1−exp⁡(2ℓ0/n).R^2_{\mathrm{N}} = \frac{1-\exp\left[\frac{2}{n}(\ell_0-\ell_1)\right]} {1-\exp(2\ell_0/n)}.

对于标准的个体层面二元似然,这种归一化使理论上界变为一。但它并未赋予该指标普通决定系数所具有的解释方差含义,也不意味着它可以与其他伪 R2R^2 指标直接互换。

与偏差的关系

对于对数似然为 ℓ\ell 的模型,偏差相对于饱和模型定义为:

D=2(ℓsat−ℓ).D=2(\ell_{\mathrm{sat}}-\ell).

因此,可以将基于偏差的指标写为

RD2=1−D1D0,R^2_D=1-\frac{D_1}{D_0},

其中,D1D_1 和 D0D_0 分别为拟合模型和基准模型的偏差。

对于个体层面的伯努利观测,按照通常的似然定义惯例,饱和模型的对数似然为零,因此这一指标等于 McFadden 指标。但这种等价关系并非普遍成立:对于分组响应及其他响应分布,饱和模型的对数似然可能不为零。

基于拟合概率的指标

对于二元观测,记 yi∈{0,1}y_i\in\{0,1\},并令 p^i\widehat p_i 为 yi=1y_i=1 的拟合概率。

Efron 伪决定系数

Efron 指标使用概率预测的平方误差:

RE2=1−∑i(yi−p^i)2∑i(yi−yˉ)2.R^2_{\mathrm E} = 1- \frac{\sum_i(y_i-\widehat p_i)^2} {\sum_i(y_i-\bar y)^2}.

它将拟合模型的预测平方误差与恒定预测值 yˉ\bar y 的预测平方误差进行比较。其分子与二元响应的均方误差成正比,后者在这种情形下通常称为 Brier 评分。

尽管它在形式上与普通 R2R^2 相似,逻辑回归的最大似然估计并不直接最小化这一分子。当预测的平方误差大于基准模型时,该指标可以为负。对于一般的非线性模型,计算这一指标并不等同于将观测值与拟合概率之间的相关关系用相关系数表示后取平方。

Tjur 区分系数

Tjur 指标为

RT2=1n1∑i:yi=1p^i−1n0∑i:yi=0p^i,R^2_{\mathrm T} = \frac{1}{n_1}\sum_{i:y_i=1}\widehat p_i - \frac{1}{n_0}\sum_{i:y_i=0}\widehat p_i,

其中,n1n_1 和 n0n_0 是两个结局组各自的观测数。

它是观测到事件发生的样本中的平均预测概率,与观测到事件未发生的样本中的平均预测概率之差。数值为零表示两个组的平均预测概率没有差异;完美预测时,该指标为一。

这一指标直接描述了概率尺度上的区分程度。对于任意给定的预测,包括在新数据上评估的预测,它可能为负。如果任一结局组没有观测,则该指标无定义。

潜变量指标

一些二元和有序分类模型可以用未观测到的连续响应来表示:

Yi∗=xiTβ+εi,Y_i^*=x_i^\mathsf{T}\beta+\varepsilon_i,

观测类别由对 Yi∗Y_i^* 应用阈值来确定。

McKelvey–Zavoina 伪 R2R^2 使用这一潜在尺度上的方差分解:

RMZ2=Var⁡(xiTβ^)Var⁡(xiTβ^)+Var⁡(εi).R^2_{\mathrm{MZ}} = \frac{\operatorname{Var}(x_i^\mathsf{T}\widehat\beta)} {\operatorname{Var}(x_i^\mathsf{T}\widehat\beta) +\operatorname{Var}(\varepsilon_i)}.

在通常的逻辑回归潜变量表示下,残差方差为 π2/3\pi^2/3。在标准的概率单位模型表示下,残差服从标准正态分布,其方差为一。

这一统计量针对的是假定潜在响应的变异,而非观测到的二元或有序分类结局的变异。因此,它的含义取决于潜变量模型及其尺度假设。

数值示例

假设对 n=200n=200 个观测拟合的二元模型有

ℓ0=−100,ℓ1=−70.\ell_0=-100, \qquad \ell_1=-70.

则

RMcF2=1−−70−100=0.30,R^2_{\mathrm{McF}}=1-\frac{-70}{-100}=0.30,
RCS2=1−exp⁡(−0.30)≈0.259,R^2_{\mathrm{CS}} = 1-\exp(-0.30) \approx0.259,

以及

RN2=1−exp⁡(−0.30)1−exp⁡(−1)≈0.410.R^2_{\mathrm N} = \frac{1-\exp(-0.30)}{1-\exp(-1)} \approx0.410.

这三个指标描述的是同一个拟合模型。它们的数值不同,源于定义不同,而不是模型的拟合结果不同。

解释与局限

可比性取决于定义和数据

报告伪 R2R^2 时,如果不注明名称或公式,信息就是不完整的。当模型使用相同的观测、结局编码、基准模型、似然定义惯例和指标时,比较才最具解释意义。

事件发生比例、响应数据的聚合方式、观测权重或抽样总体的差异,都可能改变该统计量。因此,来自不同数据集的数值不一定代表可比的预测性能水平。

为两个似然乘以相同的常数,不会改变似然比,但通常会改变对数似然之比。在比较不同软件实现或似然定义惯例时,这一区别十分重要。

样本内改进不等于预测验证

对于通过无惩罚最大似然法估计的嵌套模型,增加参数不会使最大化后的似然降低。因此,即使新增的预测变量捕捉到的只是抽样噪声,未经调整的、基于似然的伪 R2R^2 指标也往往会改善。

样本内数值较高,并不能证明模型在新观测上的表现良好。采用交叉验证或留出数据进行评估,回答的是另一个问题。关于似然与模型嵌套关系的论证,也不一定能直接应用于通过正则化得到的估计结果。

模型拟合具有多个维度

伪 R2R^2 不能替代统计假设检验、概率校准评估,或在选定阈值下的分类性能评估。似然改进、概率预测准确性、排序能力以及基于阈值的准确率,描述的是模型的不同方面。

较大的伪 R2R^2 也不能证明因果推断有效。仅凭预测拟合程度,无法解决混杂、选择效应或其他识别问题。

边界情形需要谨慎处理

如果所有二元响应都取相同的值,若干定义会因基准模型没有结局变异或对数损失为零而变得无定义。逻辑回归中的完全分离也可能使有限的最大似然系数估计不存在,即使基于似然的拟合指标正趋近于理想值。

对于样本外预测或并非通过普通最大似然法拟合的模型,负值可能具有实际意义:它可能表示模型表现不如所选基准,而不是计算错误。