随机抽样是按照特定的随机机制选取观测单位的方法。在统计学中,它为根据少量单位推断总体情况提供了依据;这些单位可以是个人、家庭、工业零部件或地理位置。随机抽样的核心特征并不在于样本看起来是否具有代表性,而在于抽样过程遵循可以描述和分析的概率规则。在有限总体调查中,概率抽样通常要求总体中的每个单位都有已知且大于零的入样概率。
“随机抽样”有两种密切相关的用法。在数理统计学中,随机样本通常指从同一概率分布中抽取的一组相互独立的观测值。在调查抽样中,它指通过随机化抽样设计获得的观测结果;这些观测结果不一定相互独立,各单位的入样概率也不一定相等。因此,简单随机抽样只是一种特定的抽样设计,并非所有随机抽样方法的统称。
随机抽样是官方调查、科学实地研究、质量控制、计算机模拟以及许多统计方法的基础。其理论解释了抽样设计如何决定估计的精度、应如何对估计值进行加权,以及如何衡量不确定性。在实践中,随机抽样的可靠性还取决于总体覆盖情况、调查参与情况、测量质量,以及是否严格执行抽样程序。
概率基础与抽样总体
抽样问题首先要明确目标总体和待估计的量。目标总体可以是某国在指定日期的所有常住居民、某个月生产的所有批次货物,或某片森林边界内的所有树木。目标总体中的单位必须与实际抽取和观测的单位区分开来。例如,一项调查可以抽取地址,向住户收集信息,再报告有关居民个人的结果。这些不同层次会影响抽取概率以及对结果的解释。
实际抽取所依据的是抽样框,即用于识别可供抽取的抽样单位的名册、登记簿、地图或其他工具。企业名录是一种名录抽样框;将一个国家划分为若干地理区块,则构成区域抽样框。由于单位可能存在遗漏、重复、信息过时或分类错误,抽样框所代表的总体可能与目标总体不同。从不完整的抽样框中随机抽取单位,本身并不能弥补这种不完整性。
对于有限总体 ,抽样设计为每个可能抽中的子集 指定一个概率 ,满足
单位 的一阶包含概率为
二阶包含概率则为 。这些量描述的是单位进入最终样本的概率,而不仅仅是在某一次抽取中被选中的概率。当抽样允许重复抽取,或通过多个阶段进行时,这一区别尤为重要。
在基于抽样设计的推断中,总体各单位的取值被视为固定值,不确定性来自抽样设计最终选中了哪个样本。相比之下,统计模型可能将观测值视为随机变量的实现值。数学中通常所说的随机样本 ,其联合分布可分解为相同边缘分布的乘积,也就是说,各观测值服从相同分布,并满足统计独立性。从有限总体中进行不放回抽样时,即使每个单位的包含概率相同,通常也不满足独立性。
概率抽样既不要求各单位的抽取概率相等,也不要求抽样结果看起来均衡。调查可以有意提高稀少群体的抽取概率,再通过适当的权重加以补偿。反过来,随意挑选人员、选取最容易接触到的人,或凭主观判断使样本保持均衡,都不能构成概率抽样设计。随机抽样是抽取机制本身的属性,而不是查看所得数据后作出的判断。
简单随机抽样与有限总体下的精度
在不放回的简单随机抽样中,从容量为 的总体中抽取 个不同单位所组成的每个子集,其被抽中的概率均为
其中分母为二项式系数。因此,每个单位的入样概率为 ,而两个不同单位的联合入样概率为
仅凭各单位的入样概率相等,并不足以判定采用的是简单随机抽样:其他抽样设计也可以使每个单位具有相同的入样机会,却只允许抽取某些特定的样本。
对于总体中的取值 ,设总体均值为 。样本均值 是无偏的:在反复抽样下,其期望值等于 。若
则其基于抽样设计的方差为
乘数 是方差的有限总体修正因子。它反映了在观测总体中相当大一部分单位后,不确定性所减少的程度。当 时,抽样不确定性消失,但测量误差和处理误差仍可能存在。
用样本方差 估计未知的 ,即可得到估计的标准误
对于二元变量,样本均值就是一个比例。当总体很大且抽样比很小时,近似标准误为 。当比例接近 时,在简单随机抽样并采用正态近似的条件下,容量为 1,000 的样本在 95% 置信水平下的抽样误差限约为 3.1 个百分点。这一数值不包括无应答、覆盖误差或其他非抽样误差。
有放回抽样则有所不同。在 次独立抽取中,每次都以 的概率选中 个单位中的某一个,同一单位可以被多次抽中。一个单位至少出现一次的概率为 ,而不是 。按各次抽取结果计算的均值,其方差等于以 为除数定义的总体方差除以 。
对于来自更一般分布的独立观测值,大数定律说明了样本均值在适当条件下的收敛性,而中心极限定理则常为正态近似提供依据。这些定理的有限总体版本需要满足各自的条件,包括对影响异常大的单位加以限制。仅有随机选择,并不能保证小样本的均值近似服从正态分布。
分层、样本量分配与系统抽样
分层抽样将总体划分为互不重叠的组,称为层,并在每一层内抽取概率样本。层可以按地区、年龄组、企业规模类别划分,也可以按抽样前已知的多种特征组合划分。如果第 层包含 个单位,均值为 ,则总体均值为 ,其中 。若各层内独立进行简单随机抽样,总体均值的估计量为
其方差为
当各层内部的单位较为相似,而层与层之间的均值存在差异时,分层尤其有效。例如,将大型和小型经营单位分开,可以提高就业人数或产出的估计精度,因为它们对总量的贡献差异很大。分层还能确保重要的统计报告组都分配到样本,而不受分层约束的简单随机样本可能只包含来自某个小地区的少量观测。
采用比例分配时, 约为 ,使各层的抽样比相同。当各层的观测成本相同,且有限总体约束不起限制作用时,奈曼分配令 :规模更大、变异程度更高的层会分配到更多观测。如果第 层每次观测的成本为 ,则相应考虑成本的分配规则为 。实际分配时,还会规定满足统计结果发布要求的最小样本量,限制特定单位的受调查负担,并兼顾抽样前有关变异程度的信息所存在的不确定性。
系统抽样从随机起点开始,每隔固定间隔选取一个单位。若 ,从 中等概率地选取一个起点,此后每隔 个单位抽取一个,就能使每个单位的入样概率均为 。例如,要从10,000条记录中抽取100条,可以在第1至第100条之间随机选定起点,随后每隔100条抽取一条。这种方法计算量小,还能使观测分散在有序抽样框中。
抽样框的排列顺序决定了系统抽样的精度。将地址按地理位置排序,或将企业按规模排序,可以形成隐式分层,使抽取的单位分布于总体相关特征的不同范围。不过,周期性也可能使这一设计效率低下。如果抽样间隔与反复出现的生产周期相吻合,同一个样本就可能反复抽中该周期的同一阶段。
系统抽样并不等同于简单随机抽样:在上述例子中,只有100种不同的样本可能被抽中。许多记录对不可能同时入样,因此它们的联合入样概率为零。所以,如果不引入额外假设,单个随机起点抽取的样本可能无法提供仅凭样本内部信息构造的无偏方差估计量。采用多个独立随机起点、重复抽样,或适当的替代设计,可以为不确定性估计提供更可靠的依据。
整群抽样与多阶段抽样
整群抽样抽取的是由总体单位组成的群,而不是直接从一份完整名录中抽取所有最终单位。例如,调查可以先抽取学校,再抽取学生;先抽取地理区域,再抽取住户;或先抽取医院,再抽取病历。在单阶段整群抽样中,会观测入选群内所有符合条件的元素。在多阶段抽样中,则会在入选群内进一步进行概率抽样。
这种方法的主要优势在于便于实施。如果全国住户调查对单个地址进行简单随机抽样,可能需要将访员派往数千个相距遥远的地点。先抽取数量有限的区域,再在这些区域内抽取地址,可以使出行和编制名录的工作更加集中。多阶段设计还免去了编制全国最终单位完整名录的需要:只需在入选区域内编制详细名录即可。第一阶段抽取的群通常称为初级抽样单位。
整群抽样往往会降低精度,因为同一群内的单位彼此相似。同一学校的学生有着共同的学校环境,邻近住户的住房条件和经济特征也可能相似。在一个简化模型中,假设各群的大小均为 ,群内相关系数均为 ,且抽样比可以忽略不计,则相对于简单随机抽样,方差的膨胀倍数近似为
如果 ,且 ,则这一倍数为 。因此,对于所估计的特定量,在这样的群中收集的1,000个观测值,其精度大致相当于513个独立观测值。
更一般地,设计效应是特定抽样设计和估计量下的方差与指定的简单随机抽样参照情形下的方差之比。它并不是一项调查所固有的、普遍不变的属性。同一种设计对于收入、年龄、就业及其他变量可能产生不同的设计效应。分层可以降低设计效应,而整群抽样和权重不等则可能增大设计效应。群大小不等,以及群大小与结果变量之间的关系,都会使上述简单公式的适用情况变得复杂。
必须逐阶段记录入选概率。如果群 以概率 入选,而其中的单位 以条件概率 入选,那么,仅属于该群的单位的总体入样概率为
如果按与群大小成比例的概率抽取群,并在每个入选群内抽取固定数量的元素,那么,只要规模度量和具体抽取方式能使相关因子相互抵消,最终各元素的入选概率就可以相等。
精度还在很大程度上取决于独立抽取的初级抽样单位数量。如果大量访谈仅集中在少数几个群中,所能提供的群间变异信息就很有限。因此,调查的方差计算需要使用群标识符,而且其自由度通常与初级抽样单位的数量有关,而不是与个体回答的总数有关。
不等概率与加权估计
当总体单位在规模、重要性或成本方面差异很大时,不等概率抽样很有用。例如,企业调查可能赋予大型雇主更高的抽中概率,因为它们的雇员人数占总就业人数的很大一部分。住户调查可能对某个人数较少的人口群体进行过度抽样,以获得可用的子群体估计。只要各单位的入样概率仍有明确规定,且分析时将这些概率纳入考虑,这些做法就不会损害抽样的概率性质。
在概率与规模成比例抽样中,抽样依据的是一个非负的规模度量 。对于有放回的独立抽取,常用的规则为
基于 次此类抽取,总体总量 的汉森–赫维茨估计量为
重复抽中的单位按多次抽取保留。当 与 近似成正比时,这一估计量可以具有很高的效率。
对于无放回抽样,一个基本结果是丹尼尔·霍维茨和多诺万·汤普森于1952年提出的霍维茨–汤普森估计量:
只要相关的入样概率均为正,该估计量的设计期望就等于 。用 表示单位 被抽中的示性函数,便可看出其中的原因:。入样概率的倒数 就是该单位的基础抽样权重。
其方差取决于联合入样概率:
其中 。当所需的联合概率均为正且已知时,可以构造相应的无偏方差估计量。对于某些单位对的联合入样概率为零的抽样设计,需要格外谨慎:仅有一阶入样概率,通常不足以进行无偏方差估计。
当总体规模已知时, 是总体均值的设计无偏估计量。另一种常见的估计量是加权比率
通常称为哈耶克估计量。它一般并非严格无偏,但可能具有良好的稳定性和大样本性质。
调查权重往往还会因无应答而进行额外调整,并依据已知的总体总量进行校准。校准可使各年龄组、地区或企业类别的加权计数与已知总量一致。这类调整可能提高精度并减少某些偏差,但也引入了关于调整变量、应答情况与结果变量之间关系的假设。它们无法将一个原本未知的选择过程事后变成已知的概率抽样设计。
统计推断与样本量确定
样本估计只有辅以对不确定性的恰当说明,才能为了解总体提供有用信息。抽样分布描述了在反复实施既定抽样程序时,估计量如何变化。基于设计的分析从抽取机制推导这一分布;基于模型的分析则从有关数据生成过程的假设推导这一分布。模型辅助的调查方法在保留基于设计的理论依据的同时,利用辅助变量模型提高精度。
置信区间由具有指定重复抽样覆盖概率的程序构造。对于满足适当正则条件的估计量,一种常用的近似区间为
其中, 是标准正态分布的一个分位数。对于样本量极小、事件罕见、权重差异很大,或估计结果主要由少数观测值决定的情况,这种近似可能不够准确。在不放回简单随机抽样中,具有某一属性的样本单位数服从超几何分布,可据此进行有限总体的精确计算。
复杂抽样设计需要采用能够再现其关键结构的方差估计方法。泰勒线性化用线性表达式近似比率等非线性估计量,使其设计方差易于计算。重复估计法使用多组重复权重,反复计算估计值。这类方法包括刀切法、平衡重复复制法,以及适配抽样设计的自助采样方法。如果原始样本采用分层或整群抽样,却把各个观测值当作相互独立的个体进行重抽样,就可能得出错误结果。
在简单随机抽样下,估计大总体中的比例时,可用以下公式初步近似计算所需样本量:
其中, 为期望的绝对误差限。当置信水平为 95%、、 时,计算得到需要约 1,068 个完成调查的观测单位。在所有可能的比例取值中,取 时方差最大,因此在这一计算中属于保守选择。对于大小为 的有限总体,常用的修正公式为
实际制定调查计划时,还必须考虑设计效应、预期无应答、分组结果报告需求以及成本。如果并非所有抽中的单位都参与调查,那么要获得 1,000 个有效应答,最初抽取的单位就必须超过 1,000 个。将简单随机抽样所需的样本量乘以预期设计效应,是一种实用的近似方法,但设计效应本身也可能因所研究的结果变量而异。
对总体总量、回归系数和稀有子群体比例进行推断,所需的样本量可能大不相同。围绕统计功效提出的样本量要求,还取决于效应量和拟采用的检验方法。单一的总体误差限无法描述一项调查所得所有结果的精度。
覆盖、无应答及其他误差来源
随机抽样控制的是一种特定的不确定性来源:只观测部分单位而非整个总体所带来的变异。它并不能消除抽样框、参与情况、问题、测量工具、编码或分析中的误差。调查总误差框架区分了这些误差来源,以免将较小的抽样方差误认为较高的整体准确性。
当抽样框与目标总体不一致时,就会产生覆盖误差。例如,仅通过某一种通信渠道开展的调查,可能将不使用该渠道的人排除在外。重复记录可能使某些单位获得多次被抽中的机会,除非抽样设计已将这种重复性考虑在内。即使对不完整的抽样框进行全面调查,仍然无法覆盖其中遗漏的目标单位;从同一抽样框中扩大样本量,也无法解决这一问题。
无应答是指被抽中的单位未提供任何数据,或未回答某些题项。其影响取决于应答者与无应答者在所关注的量上有何差异,而不仅仅取决于应答率。在一个简化的分解中,设 为应答比例, 和 分别为应答者和无应答者的均值,则有
如果剩余的无应答者与应答者差异很大,即使应答率很高,也仍可能存在相当大的偏差;而应答率低本身并不能说明偏差的大小或方向。
测量误差包括回答不准确、访员效应、测量工具的局限、问题顺序效应以及错误分类。处理误差包括数据编辑、记录关联、编码和数据转换中的错误。有些误差的作用部分地类似于额外的随机噪声,另一些则会使估计值发生系统性偏移。均方误差的分解式为
它说明了为什么在偏差占主导时,仅降低抽样方差可能收效甚微。
便利样本、志愿者样本组和开放式网络投票通常无法给出已知的总体单位入样概率。即使回答数量极大,也可能只是对参与者给出高度稳定的描述,而无法准确描述目标总体。这是选择偏差的一种表现,并不会随着样本量增大而自动消失。
在明确的假设下,加权、后续追访和缺失数据插补可以解决上述问题中的一部分。例如,应答加权假设现有的调整变量能够充分解释相关的应答差异。如果调整后,参与与否仍与某个未观测到的结果变量相关,就仍可能存在残余偏差。因此,常规的抽样误差限只反映了部分不确定性,本身并不能保证估计的有效性。
随机数生成与计算抽样
数学上的设计必须转化为可执行的抽选程序。过去的方法使用实物抽签、洗牌或印制的随机数表。现代抽选通常依赖伪随机数生成器,这是一种确定性算法,其输出经过设计,具有实用的统计性质。生成器的初始状态通常由种子决定,使抽选结果可以复现。可复现性有助于审计,但并不能证明生成器、抽样框或抽选算法是合适的。
从 中均匀抽取一个整数时,需要留意生成器的输出范围。直接将随机整数对 取模会产生偏差,除非生成器可能输出的数值个数能被 整除。一种标准的修正方法是,先拒绝落在末尾不完整区块中的输出,再进行取余运算。这样,在被接受的输出中,每个目标整数都有相同数量的原像。
对于不放回简单随机抽样,只要每一步都均匀选择交换位置,Fisher–Yates 洗牌算法就能将有限列表排列成均匀随机的顺序。随后取前 条记录,即可得到一个简单随机样本。采用部分洗牌可以避免对整个列表进行重排。如果记录以数据流的形式到达,且最终总量未知,蓄水池抽样可以维持一个大小固定为 的样本:保留前 条记录,此后,当第 条记录到达时,以 的概率保留这条新记录,并用它替换一条从已保留记录中均匀选出的记录。处理完 条记录后,每条记录的入样概率均为 。
从指定的连续分布中抽样,通常使用均匀随机变量 和累积分布函数反演法,
其中,必要时将反函数理解为广义反函数。其他方法包括拒绝抽样,以及针对特定分布设计的变换。这些程序为蒙特卡洛方法提供支持,该方法通过随机抽样来近似计算期望、概率和积分。
计算生成的样本并非总是相互独立的。马尔可夫链蒙特卡洛构造一个具有相依性的序列,旨在探索目标分布。其估计的不确定性取决于收敛情况和序列相关性,因此,保存的抽样值数量并不自然等于有效独立观测的数量。同样,从数值分布中生成的样本,本身也不构成现实世界中个人或组织的概率样本。
有文档记录的抽样实施过程,应记载抽样框版本、资格判定规则、生成器、种子或状态、抽选阶段以及入样概率。抽样框的排列顺序也很重要:以相同起点重复系统抽样程序时,如果抽样框的排序不同,就可能选中不同的单位。即使随机数程序本身运行正确,错误的资格筛选条件或抽选后的替换操作仍可能改变抽样设计。
历史发展与科学应用
基于样本的推理早于现代调查理论。十八世纪末至十九世纪初,皮埃尔-西蒙·拉普拉斯发展了基于概率的推断方法,并将样本信息用于总体估计。这些早期研究尚未完整确立现代意义上概率抽样设计与目的抽样之间的区别,但有助于说明如何利用总体中一部分个体的观测结果,对整个总体作出定量判断。
1895年,安德斯·尼古拉·基耶尔向国际统计学会介绍了“代表性方法”,由此引发了统计机构中的一场重要争论。他的方法挑战了官方统计必须全面调查的观点,不过,最初的代表性选择仍包含目的抽样的成分。此后,阿瑟·莱昂·鲍利推动了随机选择方法的发展,并在社会调查中运用数学方法研究抽样精度。
耶日·奈曼于1934年发表的代表性抽样论文,对分层随机抽样及其相较于目的抽样的优势作出了具有决定性意义的阐述,将抽样设计、高效分配与基于置信度的推断联系起来。在此后的几十年里,威廉·G. 科克伦、莫里斯·H. 汉森、威廉·N. 赫维茨和W. 爱德华兹·戴明等统计学家的研究,使大规模概率抽样调查在技术和组织实施层面逐渐成为可行之举。1952年的霍维茨—汤普森成果,为入样概率不等的情形提供了一种通用的总体总量无偏估计量。
美国《文学文摘》在1936年总统选举民意调查中的失败,成为一个影响深远的案例,说明样本规模并不能解决所有问题。尽管收到的答复数量庞大,却无法弥补用于联系潜在受访者的名单所存在的缺陷,也无法消除参与情况差异带来的影响。将这一事件描述为小样本造成的偶然失误并不恰当:问题在于接受调查的受访者与全体选民之间的关系。
如今,概率抽样广泛用于劳动力调查、农业统计、企业调查、环境监测和质量检验。人口普查力求全面登记,但对于补充问题的调查以及普查后的覆盖情况研究,可以采用抽样方法。在环境研究中,选取分布于不同空间位置的样本,有助于估计整个区域的状况,而不只是那些便于到达的地点的状况。在制造业中,随机选取的产品能够为判断生产过程的质量提供依据,而无须逐件检验。
随机抽样还必须与随机分配相区分。在随机对照试验中,随机分配是将招募来的参与者以随机方式分派到各处理组,从而有助于在研究内部进行因果推断。随机抽样关注的是个体如何进入研究,并为向界定明确的总体进行推断提供支持。一项试验可以随机分配处理,却采用非随机方式招募参与者;一项概率抽样调查可以反映总体情况,却未必能够识别因果效应。这两种程序解决的是不同的推断问题,彼此并不以对方的存在为前提。