倾向评分是指在给定一组观测特征的条件下,某个研究单位接受特定处理或暴露的条件概率。对于二元处理 ,其中 表示处理, 表示对照,处理前协变量为 ,倾向评分定义为 。其核心数学性质是:以真实倾向评分为条件时,各处理组之间这些协变量的分布是平衡的。
倾向评分由保罗·罗森鲍姆和唐纳德·鲁宾于1983年提出,此后成为利用观测数据进行因果推断的重要工具。它将一个可能涉及高维变量的调整问题简化为仅涉及一个标量的问题,可用于匹配、分层、加权,以及与结局模型相结合的方法。在处理分配不受研究者控制的流行病学、计量经济学和项目评估等领域,这些方法得到了广泛应用。
倾向评分本身并不衡量处理带来的获益,而观测特征达到平衡,也不能证明所有混杂来源都已消除。能否作出因果解释,取决于处理的定义、观测到的协变量、是否存在可比较的已处理与未处理研究单位,以及将观测结局与待估计效应联系起来的假设。
数学定义与平衡性质
设 为二元处理指示变量, 为由观测到的处理前特征组成的向量。倾向评分是如下函数:
它从已测量协变量的层面描述处理分配机制。例如,在评估一项职业培训计划时, 可以包括年龄、既往收入、受教育程度和就业经历。评分为 ,表示在数据所反映的分配过程中,具有这些特征的个体接受处理的条件概率为 。这并不意味着该计划有 的概率使某位特定参与者受益。
平衡评分是满足下式的任意函数 :
其中, 表示条件独立。在这种评分的任一给定取值下,处理组与未处理组中观测协变量的分布相同。完整的协变量向量 显然是一个平衡评分,但倾向评分仅用一个标量就能实现这一性质:
这一结论可由条件概率的定义推出。由于 由 决定,
此外,根据迭代条件期望法则,
因此,在以该评分为条件后,即使知道完整的协变量向量,也无法获得有关处理分配的额外信息。同样的推理也适用于被分配至对照组的概率。
罗森鲍姆和鲁宾将倾向评分刻画为最粗的平衡评分:除概率为零的事件外,任何平衡评分都必须包含足以确定倾向评分的信息。其他平衡评分则可以保留更多协变量信息。这就解释了为什么倾向评分能够实现降维,而不要求每个接受处理的个体都有一个在年龄、收入、受教育程度及其他属性上完全相同的未接受处理的对应个体。
这一定理针对的是总体分布和真实的分配概率。即使真实的倾向评分已知,它也不保证有限样本中的协变量完全平衡。如果用于估计评分的模型设定有误,它同样不保证估计出的评分能够平衡协变量。两个人也可能具有相同的评分,但个人特征存在很大差异;平衡描述的是组间分布的性质,并不意味着匹配个体在其他方面完全相同。
因果识别与目标效应
借助潜在结果,可以最清楚地阐明平衡与因果效应之间的联系。令 表示某个单位在接受处理时的结果, 表示其在对照条件下的结果。通常只能观测到其中一个。在一致性假设下,
处理必须有明确的定义:如果“处理”的不同版本会带来实质上不同的后果,就必须在符号中区分这些版本,或明确所考虑的干预。标准表述还排除了单位之间的干扰,即一个单位的结果不取决于另一个单位所接受的处理。
一项核心的识别假设是条件可交换性,也称为无未测量混杂:
这一假设表明,在观测协变量相同的单位中,处理分配不会提供有关其潜在结果的额外信息。这比观测协变量平衡的要求更强。另一项假设是正值性:
该条件须在与目标总体相关的整个协变量支持集上成立。正值性要求:凡是需要比较两种处理条件下结果的协变量取值,两种处理条件出现的概率都必须非零。一致性、可交换性和正值性共同使得从观测数据中对因果效应进行统计识别成为可能。
如果给定 时可交换性成立,那么给定真实倾向评分时,可交换性也成立:
因此,在满足重叠条件的情况下,
这正是关键的简化:即使最初需要以高维协变量向量为条件才能满足可交换性,仅调整一个标量也足以实现识别。但这种简化并不会使可交换性变得可以检验。即便观测到的协变量达到了极佳的平衡,如果缺少关于病情严重程度、动机、收入或其他同时影响处理与结果的共同原因的信息,因果解释仍可能失效。
不同的分析以不同的量为目标。总体中的平均处理效应为
而处理组平均处理效应为
未处理单位中的效应或重叠总体中的效应,也可以作为目标。当处理效应因人而异时,这些效应未必相同。所需的重叠条件也取决于目标:估计 ATT,主要需要在处理组的整个协变量分布范围内都有可供比较的未处理单位;而估计 ATE,则要求在整个目标总体范围内,两种潜在结果都具有相应的数据支持。因此,匹配、修剪和加权不仅可能改变估计的精度,还可能改变所估计效应对应的总体。
历史发展与方法论意义
协变量调整早于倾向评分出现。早在1983年之前,研究者就已使用分层、回归调整、标准化和匹配比较等方法。困难在于,同时依据多种特征进行匹配,会使可供比较的组越来越稀疏。例如,对于十个二元协变量,精确交叉分类就会产生多达 种协变量组合。这是维数灾难的一种表现:随着特征数量增加,所需样本量会迅速上升。
保罗·罗森鲍姆(Paul Rosenbaum)和唐纳德·鲁宾(Donald Rubin)于1983年发表的论文《倾向评分在因果效应观察性研究中的核心作用》,确立了平衡评分框架,并证明了给定协变量时的强可忽略性如何传递至倾向评分。这项工作的意义既在于理论,也在于实践。它解释了为什么只需对一个一维量进行调整,就能使处理组在众多观测变量上具有可比性,而无须在研究设计阶段为结局设定正确的模型。
后续研究将这一理论与子类分层和匹配抽样联系起来。罗森鲍姆和鲁宾于1984年开展的子类分层研究,以及1985年关于构建匹配对照组的研究,推动了一系列后来成为应用研究标准做法的程序的确立。按倾向评分将观测对象划分为若干子类,为复杂的多变量结局建模提供了一种易于采用的替代方案。匹配则使比较组的构建过程明确化,并将这项工作与随后对结局差异的估计分离开来。
拉吉夫·德赫贾(Rajeev Dehejia)和萨德克·瓦赫巴(Sadek Wahba)于1999年发表了一项关于职业培训项目非实验评估的研究,成为倾向评分的一项重要应用。他们利用美国“全国支持性就业”示范项目的相关数据和非实验比较样本,考察倾向评分方法能否复现实验基准结果。这项研究成为围绕观察性项目评估的广泛争论的一部分。后续比较强调,结果取决于比较总体、协变量信息、重叠程度及具体实施方式;面对不适用的观察性数据,没有任何匹配算法能够普遍还原实验结果。
此后的发展使这一领域不再局限于最近邻匹配。平野圭介(Keisuke Hirano)、吉多·因本斯(Guido Imbens)和海尔特·里德尔(Geert Ridder)于2003年研究了如何利用估计的倾向评分进行有效估计。阿尔贝托·阿巴迪(Alberto Abadie)和吉多·因本斯发展了匹配估计量的大样本理论,其中一些结果解释了为什么普通自助法在采用固定数量近邻的匹配中可能失效。今井耕介(Kosuke Imai)和马克·拉特科维奇(Marc Ratkovic)于2014年提出协变量平衡倾向评分,将处理分配建模与平衡条件明确结合起来。关于重叠加权、灵活的干扰参数估计以及双重稳健方法的研究,进一步推动研究重点转向目标总体、稳定性和对不平衡的直接控制,而不再仅仅关注对处理分配的预测。
估计处理分配机制
在观察性研究中,真实的倾向得分通常未知。一种常用的估计方法采用逻辑回归:
其中, 可以包含原始协变量、非线性变换和交互项。系数通常通过最大似然估计来估计。例如,年龄可以以样条项而非线性项的形式纳入模型,而既往收入与就业状态之间的交互项可以刻画不同就业群体参与项目的不同模式。
协变量选择是一个因果建模问题,而不只是寻找能够预测处理的变量。处理发生前、同时影响处理与结局的共同原因,是控制混杂的关键。对结局具有较强预测能力的变量也可以提高估计精度。相反,纳入受处理影响的变量,可能会阻断所关注效应的一部分,或引入偏倚。对其他变量的共同结果进行条件化,同样可能打开一条非因果关联路径。有向无环图有助于区分这些作用;仅凭某个变量的记录时间早于处理,并不能断定对其进行调整就是恰当的。
如果一个变量能够强力预测处理,但除通过处理之外与结局没有直接关联,纳入它并不一定有益。这类变量可能使估计得分趋近于零或一,从而增大加权估计的变异性。在仍存在未测量混杂的情况下,对处理的强预测变量进行调整还可能放大偏倚。因此,最大限度地提高处理预测能力,并不等同于最大限度地降低因果效应估计的误差。一个区分能力极佳的模型,可能主要揭示出处理人群与未处理人群之间缺乏可比性。
灵活的估计方法包括提升树、随机森林、人工神经网络以及多种算法的集成。当候选预测变量较多时,正则化可以使估计更加稳定。这些方法能够捕捉简单逻辑回归模型设定所遗漏的非线性分配机制。然而,以预测为目标的交叉验证准则,并不能直接保证协变量平衡、重叠性或令人满意的因果推断表现。灵活拟合也可能产生极端概率,或在小样本中过拟合。
有些方法在估计分配概率的同时,直接以实现平衡为目标。协变量平衡倾向得分方法纳入矩约束,例如要求选定协变量的加权均值在组间相等。其他平衡权重方法则直接构造权重,而不首先将概率预测作为主要目标。这些方法相互关联,但并不相同:并非每一组平衡权重都对应一个按常规方式拟合的倾向得分模型。无论采用何种估计方法,拟合得分都只是中间量,必须通过其形成的比较组和权重来评估其是否适用。
匹配与子分类
倾向评分匹配通过构建处理组和未处理组,使两组具有相近的估计处理分配概率。在最近邻匹配中,每个处理个体会与一个或多个未处理个体配对;按照指定的距离度量,这些未处理个体的评分与其最为接近。匹配可以有放回,即允许同一个未处理个体多次充当对照,也可以无放回。当合适的对照个体较少时,有放回匹配通常能改善局部可比性,但反复使用同一批对照个体会影响最终估计量的精度及其依赖结构。
卡钳为可接受的匹配距离设定上限。匹配通常基于估计倾向评分的对数几率,而非原始概率。一个经常被研究的规则是,将卡钳宽度设为对数几率评分标准差的 倍。这是一种经验惯例,并非保证无偏性的定理。其表现取决于协变量分布、接受处理的比例、样本量以及结局的生成过程。较窄的卡钳可以减少质量较差的匹配,但也可能使许多处理个体无法匹配。
匹配算法同样重要。贪心匹配依次选择当前可用的匹配对象,其结果可能取决于处理顺序。最优匹配则选择一组匹配关系,使总体距离指标最小。完全匹配构建的每个匹配集中都至少包含一个处理个体和一个未处理个体,并允许处理个体与对照个体的比例有所不同。还可以将精确匹配限制与倾向评分距离结合起来,例如,要求匹配对象来自同一地区或同一日历时期,同时利用评分处理其余协变量上的差异。
子分类又称分层,采用另一种做法:将评分分布划分为若干区间,并在每个区间内估计处理效应差异。如果各层对应的评分范围足够窄,那么同一层内处理个体与未处理个体的观测协变量分布应当相近。通过对各层的效应加权平均,可以得到总体效应;权重则根据目标估计量选择。估计平均处理效应(ATE)时,使用目标总体中各层所占的比例;估计处理组平均处理效应(ATT)时,则使用处理个体在各层间的分布。
早期应用中常将样本划分为五个子类,但五个并不是普遍适用的数量。区间过宽可能留下相当程度的残余混杂,而区间过细则可能只包含处理个体或只包含未处理个体。因此,匹配和子分类都需要在局部可比性与可用样本量之间作出权衡。还应结合原始协变量检验倾向评分的接近程度:估计概率几乎相同,并不保证某个重要的预后特征已得到充分平衡。
当保留处理个体,并选择与其相似的对照个体时,匹配通常以 ATT 为目标。然而,如果因找不到匹配对象而剔除部分处理个体,所得结果一般针对的是保留下来的处理人群。当被排除的个体年龄更大、更贫困、病情更严重,或在其他方面与保留个体存在系统性差异时,这一区别就具有实质意义。
加权与目标总体的构建
逆概率加权利用倾向评分构建一个加权总体,使其中的处理分配独立于已观测协变量。对于平均处理效应(ATE),接受处理的个体赋予权重 ,未接受处理的个体赋予权重 。在满足识别假设的条件下,
例如,一个接受处理且处理概率为 的观测被赋予权重 ,用以代表那些实际接受处理相对少见的个体在接受处理时的潜在结局。
非归一化估计量将逆概率加权后的结局求和,再除以原始样本量。归一化估计量,又称 Hájek 型估计量,则将各处理组的加权结局总和除以该组的权重总和:
归一化会改变估计量的有限样本表现,但在适当条件下,其大样本目标保持不变。稳定化 ATE 权重对接受处理的个体使用 ,对照个体则使用 。分别计算各组的归一化均值时,这些作为分子的常数会相互约去。
权重可以根据不同的目标总体进行调整。针对已处理者平均处理效应(ATT)的加权,为接受处理的个体赋予权重 ,为对照个体赋予权重 。更一般地,非负倾斜函数 定义了一个目标协变量分布,该分布与原总体分布乘以 成正比。相应的权重为
由此得到的效应为
ATE 权重使用 ,ATT 权重使用 。
重叠加权使用 ,为接受处理的个体赋予权重 ,为未接受处理的个体赋予权重 。这些有界权重侧重于那些接受任一种处理都有较大概率的个体,并降低处理分配几乎确定的区域所占的权重。在适当条件下,采用含截距项的无惩罚逻辑回归进行极大似然拟合,可使线性预测子中所包含的各协变量在两组中的重叠加权均值在有限样本下精确相等。
加权无法凭空补出缺失的比较。极端的逆概率权重表明,少数不常见的观测代表了目标总体中的很大一部分。剔除观测或对权重设置上限可以提高稳定性,但两者的后果不同:剔除观测可以界定一个受限的目标总体,而临时性的权重截断通常会使估计相对于原加权方法的目标估计量产生偏倚。重叠效应是有意选择的另一个目标估计量,而不只是对全总体 ATE 更精确的估计。
结局模型与双重稳健估计
倾向得分方法可以与结局模型结合使用。匹配后,可通过回归调整来控制残余的协变量差异,或提高估计精度。在各子类内,结局模型可以校正剩余的不平衡。加权回归也是一种选择,但其解释取决于所用权重、模型设定和效应尺度。非线性模型中的系数并不天然等同于加权设计所针对的边际处理效应。
一种尤为重要的组合是增广逆概率加权估计量。定义结局回归为
对于平均处理效应(ATE),估计量为
第一个差值由每个个体的两个潜在结局均值的预测值相减得到。其余各项利用逆概率加权的观测残差,对这些预测进行校正。
这一构造具有双重稳健性:在满足因果识别假设及适当正则条件的情况下,只要倾向得分模型正确,或者两个处理水平各自对应的结局回归均正确,该估计量就是一致的。如果倾向得分模型正确,加权残差校正在期望意义上能够修正因结局模型设定错误而产生的预测偏差。如果结局回归正确,其残差的条件均值为零,因此倾向得分模型即使不完全正确,也未必会破坏一致性。双重稳健性并不意味着两个模型中的任意误差都能相互抵消,也不能解决未测量混杂问题。
当干扰参数估计足够准确时,在标准非参数模型下,增广估计量可以达到平均处理效应的半参数效率界。其主要余项通常取决于倾向得分模型与结局模型估计误差的乘积。这有助于解释,为什么两个组成部分的估计即使都只达到中等精度,也能带来良好的大样本表现。这也说明,仅有一致性并不足以保证置信区间有效:收敛速度和其他正则条件同样重要。
交叉拟合将干扰参数模型的训练与评估分开。具体而言,将数据划分为若干折;对于每一折,使用该折之外的数据训练倾向得分模型和结局模型,再用这些模型计算该折内各观测对效应估计的贡献。这样可以限制过拟合所引入的依赖,使灵活的机器学习方法更容易与渐近推断结合。相关方法还包括目标最大似然估计,该方法利用处理分配机制的信息更新初始结局拟合。这些方法仍然依赖于实质性的重叠:结局模型可以在数据稀疏的区域进行平滑,但这引入的是外推,而非直接的经验比较。
平衡诊断与实际重叠情况
诊断的首要问题是,调整后的各处理组在相关的已观测特征上是否具有可比性。相较于这一目标,处理分配模型的预测准确性是次要的。受试者工作特征曲线下面积较大,表明模型能够较好地区分接受处理与未接受处理的个体,但这可能反映出两组严重分离,而非因果研究设计理想。反之,只要模型能使控制混杂所需的协变量达到良好的平衡,即使其预测能力一般,也可能足以满足要求。
一种常用的衡量指标是标准化均值差。对于连续协变量 ,
其中,均值可以是加权均值,也可以是在匹配样本中计算的均值, 则是指定的参考标准差。分母可以采用处理前的合并标准差,也可以采用目标组的标准差。在调整前后使用固定的分母,可以使变化更易于解释。标准化差异的绝对值小于 是一种常用的经验标准,并不能证明剩余混杂可以忽略不计。
均值相等只是平衡的一个方面。协变量的方差、分布尾部、各类别的比例、非线性变换以及交互作用也可能很重要。分布图和经验累积分布函数能够揭示均值等汇总指标所掩盖的差异。“Love 图”展示多个协变量在调整前后的标准化差异。正式平衡检验的P值通常提供的信息较少:它们同时受不平衡程度和样本量影响,因此,大型研究可能检出微不足道的差异,而小型研究则可能无法检出重要差异。
重叠诊断考察两个处理组的评分分布,以及由此产生的权重或匹配距离。如果某一区域几乎全部由接受处理的个体构成,那么在不进行强外推的情况下,就无法在该区域直接比较处理组与对照组。当某个由协变量界定的群体不可能接受处理,或必然接受处理时,就会出现结构性的正值性违背。实际的正值性违背则是指,两种处理状态在理论上都可能出现,但在现有样本中,其中一种状态只有极少数观测。如果处理分配模型有误,即使估计的评分远离零和一,也不能排除结构性的正值性违背。
权重的集中程度可以用有效样本量这一诊断指标来概括,
通常分别在各处理组中计算。如果所有权重相等,有效样本量就等于观测数量。如果少数观测占据主导,其值则可能小得多。这个表达式可以有效描述权重的离散程度,但不能完全替代针对具体估计量的方差计算。
诊断还能够揭示研究人群的变化。报告匹配或修剪后保留了多少个体,以及这些个体的特征与被排除者有何不同,有助于区分组间的内部可比性与样本对总体的代表性。保留个体之间即使达到了极佳的平衡,研究结果对原始总体的适用性仍可能有限。
统计不确定性与对隐性偏倚的敏感性
不确定性的计算必须反映实际使用的估计量。加权观测并不等同于按其权重数值成比例抽取的独立观测。匹配可能重复使用对照个体,分层会引入通过估计确定的分组,而且这些方法都可能使用估计出的处理分配概率。忽略这些特征的分析可能错误估计标准误,有时偏差会相当大。
对于加权估计量和增广估计量,常用方法包括影响函数计算、联合估计方程以及适当的三明治方差估计量。将拟合得到的倾向得分视为已知,通常不等同于将其估计过程纳入考虑。在一些重要情形下,相较于在某个特定的逆概率加权估计量中使用真实倾向得分,使用估计出的倾向得分反而能够提高渐近效率。这是因为估计过程会在样本中施加某些关系,从而消除原本多余的变异;干扰参数的估计并不总是仅仅增加噪声来源。
对于许多光滑估计量,只要恰当地重复整个拟合过程,自助采样就很有用。但它并非普遍有效。阿巴迪和伊姆本斯表明,对于匹配数量固定的标准最近邻匹配估计量,普通的非参数自助法可能失效。所选近邻的非光滑变化是这一问题的关键。因此,专用于匹配的方差估计量或其他具有理论依据的程序,与简单地对匹配后的观测进行重采样并不相同。
还必须体现残余的依赖关系。按聚类分配处理、对同一个人进行重复观测,或学校、医院、地区内部的结局存在相关性,都可能要求在推断时考虑聚类结构。决定精度的可能是独立聚类的数量,而不只是记录总数。估计亚组内的处理效应时也需要同样谨慎:总体平衡良好,并不能保证每个亚组内部也具有良好的平衡性或充分的重叠性。
敏感性分析处理的是另一种不确定性,即因果识别所需假设遭到偏离所带来的不确定性。罗森鲍姆的匹配研究敏感性分析框架使用参数 ,为其他方面可比的个体因某个未观测协变量而产生的接受处理优势比差异设定上限。 表示在相关的匹配比较中,个体接受处理的优势相同;更大的值则允许处理分配以更大程度隐性偏离随机分配。随后便可考察在不同 值下,检验结果或效应结论的界限如何变化。
其他敏感性分析会设定未测量混杂因素与处理、结局之间的关联强度,或直接引入偏倚函数。这些分析并不是根据观测到的平衡性来估计隐性混杂,而是明确展示在所设定的假设违背情形下,结论会如何变化。基于抽样不确定性的置信区间与基于识别不确定性的敏感性区间回答的是不同问题,不应混为一谈。
扩展与应用边界
对于类别超过两种的处理,处理分配概率成为一组概率:
各分量之和为一,因此最多只有 个独立维度。两两比较可能需要不同的重叠人群,而某一种处理的单一概率值通常无法同时平衡所有可能的处理对比。多项模型、广义平衡权重和多组匹配将二元处理框架加以扩展,但每项对比都必须明确其目标干预和目标人群。
对于连续暴露 ,广义倾向评分通常通过处理的条件密度来定义:
这是一个密度,而不是接受某个确切连续剂量的概率;它可以大于一,其单位由暴露的度量尺度决定。基于广义倾向评分的方法,在适用于连续处理的可交换性和正值性假设下估计剂量–反应关系。二元处理的平衡定理不能原封不动地推广为一个通用标量,用来解决所有连续暴露的调整问题。
纵向研究还面临另一种复杂情况。在较早一次处理之后测量的协变量,可能影响后续处理和结局,同时又受到较早那次处理的影响。此时,常规调整可能无法妥善处理处理与混杂因素之间的反馈。由詹姆斯·罗宾斯及其合作者提出的边际结构模型,使用各时间点处理权重的乘积,并常常结合删失权重,在序贯可交换性假设下估计处理历程的效应。必须在每个相关时间点,以已观测到的历史信息为条件,对处理机制进行建模。
倾向评分的思想也用于对结局缺失、研究参与以及跨人群迁移进行调整。在这些情形下,权重构造中的部分处理概率会被观测概率或参与概率取代。因果效应的识别需要适用于选择机制的假设,而不只是处理分配假设。处理倾向评分本身无法纠正信息性失访、结局测量的差异或进入数据库的选择机制所带来的问题。
在健康研究中,相关应用包括利用登记数据和行政记录比较不同处理;在政策研究中,则包括评估教育项目和劳动力市场干预。这些应用的可信度取决于所测量的协变量、时间上的对齐、干预的定义,以及是否存在有效的比较组。仅靠倾向评分调整无法解决反向因果、不死时间偏倚或暴露误分类问题。尤其是,即使基线组间已达到良好的平衡,错误地分配随访时间仍可能造成处理具有优势的假象。
倾向评分匹配本身也存在方法学争论。基于标量评分的最近邻匹配,并不必然优于直接进行多变量匹配、回归调整或加权。仅根据评分距离剔除观测,有时会使重要协变量的平衡变差,或者丢失信息却没有获得相应收益。应将这些针对具体实现方式的疑虑与其背后的平衡定理区分开来:该定理在其定义下严格成立,而实际应用中的方法仍须证明,其估计评分、保留人群及不确定性计算足以支持预期的因果比较。