概率分布是对概率如何分配给随机变量各个可能取值的数学描述。它规定了各种事件的概率，例如计数结果等于三，或测量值落在某个区间内。概率分布是统计学的基础，用于描述变异性、支持根据观测结果进行推断，并为模拟提供模型。分布与从该分布中抽取的某个具体观测值并不相同。(online.stat.psu.edu)
数学定义
对于定义在概率空间 ((\Omega,\mathcal F,P)) 上的随机变量 (X)，其分布是在取值空间上的概率测度： [ P_X(A)=P(X\in A). ] 这里，(A) 属于由可测集合组成的σ代数。该分布为各个可测集合赋予非负概率，将整个取值空间的概率设为一，并对互不相交的可测集合满足可列可加性。不同的随机变量即使定义在不同的底层空间上，也可以具有相同的分布。(ocw.mit.edu)
对于实值随机变量，累积分布函数（CDF） [ F_X(x)=P(X\leq x) ] 唯一确定其分布。累积分布函数单调不减且右连续；当 (x) 趋于负无穷和正无穷时，其极限分别为零和一。对于 (a<b)， [ P(a<X\leq b)=F_X(b)-F_X(a). ] 无论分布是否具有密度，这种表示都适用。(ocw.mit.edu)
离散分布、连续分布与混合分布
离散分布将概率集中在有限个或可列无穷个取值上。其概率质量函数（PMF）为 [ p_X(x)=P(X=x),\qquad \sum_x p_X(x)=1. ] 集合的概率通过对其中各个取值的概率质量求和得到。例如，一枚均匀的六面骰子，为一到六中的每个整数赋予 (1/6) 的概率。其累积分布函数呈阶梯状递增，每次跳跃的幅度等于相应取值的概率。(online.stat.psu.edu)
绝对连续分布具有概率密度函数（PDF）(f_X)，满足 [ f_X(x)\geq0,\qquad \int_{-\infty}^{\infty}f_X(x),dx=1. ] 区间的概率通过积分得到： [ P(a<X\leq b)=\int_a^b f_X(x),dx. ] 密度函数的高度本身不是概率，可以大于一。每个单独的点的概率都为零，但一个区间的概率可以大于零。(ocw.mit.edu)
并非所有分布都是离散分布或绝对连续分布。混合分布可以同时包含点上的概率质量和密度；例如，一个模型可以为零赋予正概率，并将剩余概率分布在正值范围内。奇异连续分布具有连续的累积分布函数，但相对于通常的长度测度并不存在密度。这些区别可通过测度论加以严格表述。(ocw.mit.edu)
常见分布族与参数
有名称的分布族刻画了特定的随机性模式。伯努利分布描述只有两种可能结果的情形，而二项分布描述在成功概率相同、次数固定的一系列独立试验中成功的次数。泊松分布描述取非负整数值的计数结果。连续分布族包括密度曲线对称且呈钟形的正态分布，以及取值范围为零到一区间的贝塔分布。(online.stat.psu.edu)
指定参数后，一个分布族便确定为某个具体分布。参数可以控制位置、尺度或形状。位置参数使分布平移，而正的尺度参数使分布拉伸或压缩。对于正态分布，位置和尺度分别对应均值和标准差；但这种对应关系并非对所有分布族都成立。(itl.nist.gov)
数字特征
期望值描述以概率为权重的平均值。当相应的和或积分存在时，对于离散随机变量， [ E[X]=\sum_x xp_X(x), ] 对于具有密度的随机变量， [ E[X]=\int_{-\infty}^{\infty}xf_X(x),dx. ] 方差衡量取值围绕均值的离散程度： [ \operatorname{Var}(X)=E[(X-E[X])^2]. ] 方差的平方根称为标准差。(ocw.mit.edu)
其他特征包括中位数、分位数、对称性、偏度和众数的个数。这些特征从不同方面描述分布的位置、离散程度和形状。少数几个数值概括通常不足以确定完整的分布：不同分布可以具有相同的均值和方差，却为极端取值赋予截然不同的概率。(itl.nist.gov)
多个变量与相依性
联合概率分布描述多个变量的整体分布。边缘分布分别描述各个变量，可通过对其他变量求和或积分、将其消去而得到。条件分布则描述在已知另一个变量的相关信息后，某个变量的分布。(ocw.mit.edu)
统计独立性意味着联合概率可以分解为边缘概率的乘积。对于离散随机变量，有 [ p_{X,Y}(x,y)=p_X(x)p_Y(y). ] 协方差衡量一种特定形式的相依性，但协方差为零通常并不意味着相互独立。因此，仅凭边缘分布无法确定变量之间如何共同变化。(ocw.mit.edu)
统计建模与推断
在实际应用中，分布往往是一种假定的模型，而不是观测数据的已知属性。建模包括选择合适的分布族并估计其参数，例如采用最大似然估计。分布假设是构建置信区间、进行统计假设检验和模拟实验的基础；这些假设是否适用，取决于数据和拟进行的计算。(itl.nist.gov)
在贝叶斯推断中，先验分布表示纳入指定观测信息之前，对未知量的不确定性。将先验分布与观测模型相结合，便得到后验分布。这里，分布描述的是对参数的不确定性，而不仅仅是重复测量结果之间的变异性。(ocw.mit.edu)