样本量是统计研究中纳入的观测单位或实验单位的数量,通常用 表示。根据研究的不同,这些单位可以是个人、家庭、学校、制造的零部件、交易,或在不同时间取得的测量值。在统计学中,样本量将数据收集的设计与据此得出的结论的不确定性联系起来。它影响某个量的估计能够达到多高的精度、能否轻易检测出某一指定差异,以及现有信息能够支持多复杂的模型。
样本量本身并不能衡量研究质量。大型数据集也可能系统性地缺乏代表性,而对同一个体进行多次测量所包含的信息,可能远少于同等数量的独立观测。因此,应当如何计数,取决于推断目标、抽样或实验设计、所测量的结果变量,以及拟采用的分析方法。
样本量的确定,就是将这些因素转化为定量的研究设计。有些计算旨在使区间宽度达到指定要求;另一些则着眼于检出效应的概率、预测的准确性,或收集额外数据的预期价值。不确定性大致按 递减这一常见规律,是许多计算的核心依据,但它的适用依赖于一定假设;当观测之间存在依赖关系、分布呈重尾、存在选择过程或模型较为复杂时,这些假设可能不成立。
统计的是什么:观测、单位与总体
最简单的样本由从某个明确定义的总体中独立选取的 个单位组成。在随机抽样中,总体是希望据以作出推断的对象集合,而样本则是实际观测到的子集。总体大小通常记为 ,以区别于样本量 。因此,在一座拥有一百万居民的城市中调查1,000名居民,样本量是 ,而不是一百万。人口普查力求逐一登记所定义总体中的全部成员,不过,即使不存在抽样误差,仍可能存在无应答和测量误差。
同一项研究中可以同时存在多种计数。一项研究可能接触了2,000人,纳入了1,200人,获得了1,050人的主要结局数据,并在应用预先规定的资格标准后对1,030人进行了分析。这些数字分别反映招募、入组、结局数据可用以及纳入分析的情况,不能直接相互替代。当多个结局的缺失模式不同时,每项分析都可能有各自的样本量。清晰透明的报告应区分计划样本量与实际样本量,并说明哪些观测被用于各项估计。
观测单位也不一定就是接受干预分配的单位。在以学校为基础的实验中,可能将不同学校分配至不同教学方法,而在学生个体层面测量结局。学生人数反映了测量数据的数量,但在判断干预效应的不确定性时,独立接受分配的学校数量至关重要。同样,对六份标本中的每份各测量十张组织切片,并不会产生六十份独立标本。将相互依赖的子样本视为独立重复,通常称为伪重复。
重复测量又带来了另一种区别。一个对100人各测量12次的数据集包含1,200条观测记录,但受测者只有100人。增加测量次数可能有助于估计个体变化轨迹或个体内变化,但这些测量通常无法提供与独立抽取1,200人相同的信息。两者的关系取决于各次测量之间的协方差,也取决于研究目标关注的是个体、测量时点,还是随时间发生的变化。
因此,样本量是特定推断问题的属性,而不只是文件中的行数。在配对实验中,相关的计数可能是配对的数量。在罕见事件研究中,观测到的事件数可能比入组人数更能说明问题。在地区政策分析中,数千条个体记录也未必能弥补独立变动的地区数量过少这一不足。因此,在逻辑上,必须先界定计数单位,才能计算需要多少个单位。
基于精度确定样本量
确定样本量的一种主要方法,是先设定估计量所需达到的精度。假设 是相互独立的观测值,具有相同的均值 和有限的方差 。样本均值的方差为
因此,其标准误为 。在正态模型下,或在中心极限定理能够提供充分准确的近似时,置信水平为 的双侧置信区间的半宽近似为
其中, 是标准正态分布的 分位数。由此解得样本量应满足
这个公式具体体现了平方根关系:若要将预期的误差限减半,所需的独立观测数量约为原来的四倍。如果总体标准差为 10 个单位,要求在 95% 的置信水平下区间半宽为 2 个单位,则正态近似给出 ,向上取整后为 97。当标准差并非已知,而是需要估计时,基于学生t分布的计算可能需要迭代,因为临界值本身也取决于样本量。
对于总体比例 ,相应的大样本近似公式为
在 95% 的置信水平下,若绝对误差限为 0.05,并保守地取 ,则得到 ,即需要 385 个观测值。取值 使 达到最大,因此,在没有可信的规划取值可供使用时,这一取值在该公式中是保守的。这项计算并不意味着所有包含 385 名受访者的调查都有五个百分点的误差限:它以采用适当的概率抽样、观测间的依赖关系可以忽略,以及使用上述区间近似为前提。
从规模较小的有限总体中进行不放回抽样,可以降低不确定性。对于简单随机样本,标准误中包含一个与 成正比的有限总体校正因子。若 是忽略该校正时得到的样本量,则常用的调整公式为
当 、 时,该公式给出的结果向上取整后约为 278 个观测值。这项校正针对的是从固定的有限总体中抽样的情形;当推断对象是一个持续运行的过程或更广泛的总体时,它不一定适用。
精度计算还取决于对目标误差采用何种尺度。将 1% 的患病率估计到误差不超过一个百分点,与将其估计到相对误差不超过 10%,两者有很大区别;后者意味着绝对误差为 0.1 个百分点。在二项分布的边界附近,对称的正态近似区间可能不够准确。采用精确区间方法或校准更准确的区间方法,以及对区间宽度达到指定要求的概率作出规定,都可能得出与基本公式不同的样本量。
统计功效、效应量与假设检验
在统计假设检验中,规划样本量时通常需要明确原假设、具有科学意义的备择假设、显著性水平 ,以及期望的统计功效 。其中, 控制原假设成立时错误拒绝它的概率,而 是在指定的备择假设成立时未能拒绝原假设的概率。这两种错误分别称为第一类与第二类错误。因此,统计功效是检验在特定数据生成条件下的一种性质,而不是研究得出正确结论的一般概率。
对于两个样本量相等的独立组,若结局变量服从正态分布,两组的共同标准差为 ,目标差异为 ,则可用一个常见的近似公式计算每组所需的样本量:
将标准化效应量记为 ,可得
对于显著性水平为 5%、统计功效为 80% 且 的双侧检验,该近似公式给出的结果为每组约需 63 个观测值;采用双样本 检验的精确计算,通常得到每组需要 64 个观测值。
目标效应是基于实际研究意义确定的输入值,而不是公式的输出结果。它可以代表具有科学意义的最小差异、在经济上具有重要影响的改进,或足以改变决策的差异。如果采用小规模预备研究中异常偏大的估计值,就可能得到不切实际的偏小计划样本量。另一种规划方式是考察若干合理的效应和方差取值,并明确哪些结论依赖于乐观假设。将期望的统计功效从 80% 提高到 90%、降低显著性水平,或将更小的效应设为目标,都会增加所需的样本量。
所选检验方法同样重要。单侧检验和双侧检验采用不同的拒绝域;配对分析和非配对分析具有不同的方差;比例检验则可能同时取决于基线风险和备择假设下的风险。当需要同时控制多项结论的错误风险时,多重检验会带来额外要求。例如,邦费罗尼校正将针对整个检验族的阈值替换为各项检验所用的更小阈值;在每次比较的目标效应和统计功效给定的情况下,这通常会增加所需的样本量。
等效性检验和非劣效性检验所回答的问题,与检验差异是否为零不同。这类检验需要预先设定界值,以界定哪些差异足够小、可以接受;其样本量计算在很大程度上取决于该界值和假定的真实效应。未能拒绝差异为零的原假设,并不能证明等效。
最后,研究结束后,将观测到的效应代入原来的功效公式所计算出的统计功效,并不能独立评估证据的强度。对于许多标准检验,这种“观测功效”在很大程度上只是 P值的变换形式。观测得到的估计值及其区间能够更直接地反映效应的大小和尚存的不确定性。
依赖性、聚类与有效信息量
平方根法则假定各个观测值以适当的方式贡献信息。当观测值之间存在正相关时,增加一个观测值所带来的信息,往往少于增加一个独立观测值所带来的信息。一个有用的描述指标是有效样本量:对于某个特定的估计量,达到相近精度所需的独立观测值数量。有效样本量不一定是整数,也不是数据集的一项普遍属性。不同的待估目标和方法可能对应不同的有效样本量。
对于每个包含 个观测值、大小相同的群组,一种常用的近似方法是假定所有群组具有相同的组内相关系数 。此时,设计效应为
有效样本量近似为
如果有 1,000 个观测值,每个群组包含 30 个,且 ,则 ,得到的有效样本量约为 408。这个表达式假定相关结构具有简单的可交换性,且各群组大小相同。群组大小不等、进行协变量调整以及群组数量较少的情形,都需要采用更专门的计算方法。
群组数量可能比每个群组内的观测值数量更重要。如果将某种处理分配给十家机构,那么即使在这些机构内大幅增加测量次数,也不会增加独立的处理分配次数。推断程序还可能只有很少的自由度,由此对临界值和区间覆盖率产生的影响,并非简单乘上一个设计效应就能体现。因此,增加群组数量和增加每个群组内的观测值数量,不一定是可以相互替代的设计选择。
对于平稳时间序列,估计均值时有一个类似的近似公式:
其中, 为滞后 阶的自相关系数,而且该序列必须满足使这一近似有意义的条件。正的序列相关通常会减少有关均值的有效信息量;某些负相关则可能增加有效信息量。当序列较短,或依赖关系持续很长时间时,估计自相关系数之和本身也可能很困难。
权重不等会产生另一种有效样本量的概念。对于正权重 ,表达式
在一些简化假设下衡量权重的集中程度。当权重相等时,它等于 ;当少数观测值被赋予不成比例的大权重时,它就会减小。这个表达式本身并未考虑聚类,也未涵盖权重与结果之间的所有关系。
有效样本量也用于马尔可夫链蒙特卡洛,以描述相互依赖的模拟抽样值所包含的信息。如果马尔可夫链的混合速度很慢,保存下来的一万个抽样值就不等同于一万个独立抽样值。这种计算层面的用途关注的是近似某个分布时的蒙特卡洛误差,而不是基础分析所依据的现实世界单位的数量。
分配、招募与不完整观测
固定的总样本量可以采用不同方式分配。在结局相互独立的两组比较中,均值差估计量的方差为
当两组的结局方差相同、每个单位的成本也相同时,在总样本量 固定的条件下,等额分配可使这一方差最小。如果两组方差不同,使方差最小的分配比为 。如果每个单位的成本分别为 和 ,那么在同一简单方差模型下,固定抽样预算所对应的最优分配应满足
这一关系。
不过,出于实施或科学研究方面的考虑,研究设计仍可能采用不等额分配。这样做可以增加有关较少见暴露的信息,支持涉及共用对照组的比较,或适应某些类型单位数量有限的情况。其影响取决于整个研究设计。在方差相同、总样本量固定时,对于单一处理效应差异的估计,2:1 分配的精度低于 1:1 分配,但精度损失并没有仅从分配比看起来那么大。
分层抽样在抽取样本之前,先将总体划分为若干组。在通常的假设下,按各层总体规模成比例分配样本,可得到自加权样本;而按各层总体规模与层内标准差的乘积成比例分配,则可在样本量固定时,使总体总量估计值的方差最小。为确保较小的子总体也有足够的观测用于单独分析,可以采用不等比例抽样。此时,在估计整个总体的相关统计量时,需要使用适当的权重。
招募目标通常高于分析所需的完整观测数。如果需要 个可用观测,并假设每个招募单位以概率 提供可用的结局数据,则一种基本的样本量扩增方法为
因此,如果需要 400 个完整的结局观测,且预期完成率为 80%,则目标应为招募 500 个单位。这一计算只能使观测数的期望值达到所需数量,并不能保证至少获得 400 个结局观测。如果研究设计要求以指定概率达到这一数量,可以将完成人数建模为二项随机变量。
扩增样本量弥补的是数量损失,不一定能弥补有效性的损失。如果缺失与未观测到的结局有关,增加招募单位并不能自动消除由此产生的偏倚。缺失数据插补可以在明确的假设下利用不完整记录中的信息,但其精度取决于缺失模式,以及已观测变量能够提供多少信息。同样,如果参与机制系统性地排除了目标总体中的某些相关群体,即使额外招募大量受访者,也不能确保样本具有代表性。
结局分布与特殊设计
不同结局所提供的信息,其数量和形式各不相同。对于变异程度适中的连续型结局,某一样本量可能足以支持精确估计,但若用来估计罕见的二分类事件,则可能不足。对于事件发生概率为 的独立二分类观测,未观察到任何事件的概率为
当 时,若要有至少 95% 的概率观察到一个或多个事件,所需样本量须满足
向上取整后得到 2,995。不过,观察到至少一个事件这一目标,远低于精确估计其发生概率的要求。
如果没有发生任何事件,并不能据此认定总体中的事件发生概率为零。求解 ,可得单侧 95% 置信上限
当 足够大时,该值近似为 ,通常称为“三法则”。因此,即使在 100 次独立观测中未发生任何事件,在这一置信水平下,事件发生概率仍可能接近 3%。这一近似以各次观测的事件发生概率相同、且所有发生的事件均被完整查明为前提。
对于用泊松分布建模的事件计数,除了观测单位数量,暴露时间也很重要。如果一个齐次过程的发生率为 ,总暴露时间为 ,则预期事件数为 。因此,发生率估计的精度与总暴露时间和事件数密切相关。如果计数的变异程度超过泊松模型所允许的水平,基于均值等于方差这一条件的计算就可能高估精度。
事件发生时间研究涉及删失:在随访结束之前,可能尚未观察到某个个体的事件发生时间。在比例风险假设下,比较两组所需的事件数可近似表示为
其中, 为事件总数, 为分配比例, 为假定的风险比。将目标事件数换算为目标参与者人数,需要对招募时间安排、随访时长、事件发生率和失访情况作出假设。因此,即使入组人数相同,观察期不同,所获得的信息量也可能大不相同。
设计结构也会改变计算方式。在配对观测中,差值的方差为 ,因此配对内的正向相关关系可显著提高精度。在析因设计中,用于估计交互作用的信息量,并不等同于用于估计任一主效应的信息量。因此,一项足以估计总体平均效应的研究,对于估计交互作用、特定亚组的效应,或同一样本中记录的罕见结局而言,可能仍然不足。
回归、预测与高维数据
在线性回归中,样本量的作用与参数数量及预测变量的几何结构相互关联。在经典模型 中,若误差相互独立且具有共同方差 ,则普通最小二乘法估计量的条件协方差为
前提是设计矩阵列满秩。增加观测数量通常会增加信息量,但如果预测变量之间高度相关,即使样本很大,某些系数的估计仍可能不够精确。仅凭样本量,既无法确定信息矩阵的特征值,也无法解决近共线性问题。
如果需要拟合 个系数,通常的残差方差估计量具有 个自由度。对于常规的满秩拟合, 是保证残差自由度为正的数学要求,却不保证能得到有用的估计。当信号较弱、预测变量的分布范围较窄,或目标是精确估计某个特定系数时,所需样本量可能大得多。多项式项、分类变量的各个水平以及交互项都会引入参数,因此,仅统计变量名称的数量可能低估模型的复杂度。
在逻辑回归中,总样本量和事件数都很重要。过去有一条经验法则,建议每个拟合参数大约对应十个结局事件,但这并不是判断样本是否充足的通用标准。模型表现还取决于事件发生率、预测变量的分布、效应大小、分离现象以及模型选择的程度。当出现完全分离或准完全分离时,即使整个数据集看起来规模可观,常规的最大似然估计仍可能产生无界的系数估计。
预测所关注的目标不止是系数估计的精度。模型可以从校准度、区分度、预测误差或在另一个总体中的表现等方面接受评估。用于选择特征或调整模型设置的数据,不能算作独立的测试集。交叉验证有助于估计预测性能,但如果反复依据同一组验证结果作出设计选择,报告的性能就可能偏于乐观。留出评估样本的大小决定了性能估计的不确定性,这与用于拟合模型的样本量是两个不同的问题。
在机器学习中,记录的特征数量可能远远超过观测数量。正则化以及稀疏性等结构性假设,可以使这类情形下的估计成为可能,但并不会消除对样本量的要求。它们改变的是模型复杂度、假设与预测误差之间的关系。不存在一条统一的“每个参数需要多少个观测”的规则,能够同时适用于惩罚回归、决策树和大型神经网络。
学习曲线描述模型性能如何随训练样本量变化,可以揭示增加数据的收益是否逐渐递减,或数据不足是否仍在限制模型表现。这类曲线取决于具体任务、数据分布、算法和评估标准。增加高度冗余的记录可能几乎没有改善,而增加来自此前代表性不足情形的观测,则可能显著改变模型表现。因此,重要的不仅是训练数据的规模,还包括它对模型将接受评估的各种情形的覆盖程度。
贝叶斯方法、基于模拟的方法与序贯确定方法
在贝叶斯推断中,样本量规划可以着眼于未来后验分布的某些性质,例如可信区间的宽度、区间不包含某个指定值的概率,或某项决策的期望损失。这些计算将抽样模型与先验分布相结合。先验信息会影响所需新增数据的数量,不过,其影响取决于模型,也取决于先验是否与最终观测到的数据相容。
一个正态分布的例子可以清楚地展示信息量如何合计。假设 是相互独立的正态观测值,方差 已知,而 的先验为方差为 的正态分布。后验方差为
先验贡献的精度为 ,数据贡献的精度为 。由此可以根据期望达到的后验方差,直接计算 。在这个共轭模型的例子中,将先验精度解释为等效样本量很直接,但不存在一种适用于所有先验、似然或推断目标的统一等效关系。
贝叶斯保证度是将研究满足成功判据的概率,按不确定设计参数的分布进行平均所得的结果。与在某个固定效应值下计算的传统检验功效不同,它可以纳入效应本身的不确定性,以及方差等干扰参数的不确定性。用于描述设计不确定性的分布,可以不同于最终分析所用的先验分布。如果设计分布将相当大的概率赋予那些即使样本量极大也无法满足成功判据的效应,那么较高的目标保证度可能无法达到。
在没有解析公式可用时,可以通过蒙特卡洛方法评估候选样本量。模拟过程是在指定情景下生成数据集,应用拟采用的分析方法,并记录区间覆盖率、检验功效、偏倚或预测误差等结果。反复执行这一过程,即可估计各个设计的运行特性。同时也必须考虑模拟误差:如果真实的成功概率约为 0.8,进行 10,000 次相互独立的研究模拟,所得概率估计的标准误约为 0.004。考察合理的其他情景十分重要,因为即使模拟本身准确无误,不切实际的模型仍可能产生不合适的设计。
序贯设计并不总是预先固定最终样本量。成组序贯设计在预先指定的阶段检视不断累积的数据,并可能因已显示疗效或继续研究无望而提前停止。因此,这类设计既有最大样本量,也有随真实效应变化的期望样本量。如果不加调整地反复使用普通固定样本设计的显著性阈值,通常会改变总体假阳性概率。
自适应设计可以按照明确的规则,利用不断累积的信息调整分配方案或样本量。例如,某个设计可以重新估计最初不确定的结局方差。评估这类程序时,应将其视为完整的算法,包括其中的自适应规则和停止规则。一般而言,不能仅将最终实际样本量代入针对固定设计推导的公式,就据此理解这类程序的不确定性。
历史发展、局限性与报告
现代样本量确定方法与抽样误差和统计检验的数学理论同步发展。威廉·西利·戈塞特于1908年以“Student”为笔名发表论文,确立了小样本分布,为方差未知时对正态总体均值进行推断奠定了基础。罗纳德·费希尔在20世纪20年代和30年代发展了影响深远的实验设计方法,强调随机化、重复和实验的组织安排。耶日·奈曼与埃贡·皮尔逊于1933年发表的假设检验研究,则将显著性水平、备择假设与检验效能联系起来,形成了正式的理论框架。
调查抽样形成了另一条相辅相成的发展脉络,重点关注精度、样本分配与成本。奈曼于1934年的研究提出了分层抽样的原则,包括依据层内变异程度分配样本。此后,计算方法的发展使得为非常规结局、多层设计和自适应程序确定样本量越来越可行。雅各布·科恩关于统计检验效能分析的著作于1969年首次出版,并于1988年修订,推动了明确的检验效能计算在行为科学研究中的广泛应用。
这些发展并未确立一个区分“小样本”和“大样本”的通用界限。此类描述取决于具体模型与任务。对于某个测量精确的量,30个观测值可能已经足够;对于另一个量,却可能不足。样本量达到30便自动足以采用正态近似,这一常见说法并没有普遍成立的数学依据。收敛情况取决于底层分布、所用统计量,以及要近似的是该统计量分布的哪一部分。
大样本能够减少某些随机误差,却不会自动消除选择偏差、混杂或测量误差。对于估计量 ,以下分解式
说明了为什么在偏差持续存在时,即便增大 ,均方误差仍可能相当大。对错误目标作出的估计,无论多么精确,依然是错误的。同样,因果推断需要识别假设或恰当的研究设计;仅仅扩大观察性研究的样本量,并不能识别未观测到的因果对比。
超大样本还会凸显统计上可检出与实际重要性之间的区别。在常规条件下,随着 增大,固定的非零效应会变得更容易与零区分开来,即使其大小对于所研究的科学问题而言微不足道。反过来,即使某一效应具有实质意义,小规模研究也可能得不出明确结论。因此,效应估计、不确定性区间以及目标差异的实际含义,与样本量和显著性判定是不同层面的问题。
一份可复现的样本量说明,应明确主要估计目标或假设、分析方法、显著性水平或区间判据、期望的检验效能或精度、假定的效应大小与变异程度、样本分配方式、对观测值间依赖关系的调整,以及为数据不完整预留的余量。还应注明所用的软件或模拟程序、取整规则及敏感性分析。报告招募、随访和分析各阶段的实际人数,才能区分最初设计中的假定与研究实际达到的情况。