{
  "id": "conditional-distribution",
  "title": "条件分布",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "条件分布描述在给定另一随机量或一组信息后，某个随机量的概率分布。",
  "category": "mathematics",
  "subcategory": "probability-statistics",
  "type": "concept",
  "aliases": [
    "条件概率分布"
  ],
  "generated_at": "2026-11-03",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/conditional-distribution/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/conditional-distribution/",
      "json": "https://aiwiki.page/en/conditional-distribution.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "条件分布是指在给定另一个变量的取值、某个事件的发生或一组信息时，某个随机变量的概率分布。无条件分布描述整个总体或实验中的变异情况，而条件分布描述由条件信息限定的情形下的变异情况。例如，给定气温时，每日用电需求的分布可能与所有日期的用电需求分布有显著差异。\n\n条件分布将联合概率分布与预测、统计推断以及对动态随机系统的数学描述联系起来。对于离散变量，条件分布可通过将联合概率除以边缘概率得到。对于具有概率密度的变量，只要作为条件的变量在给定取值处的密度为正，就可以使用类似的比值。更一般的表述使用概率核与条件期望，既允许以连续分布的观测值为条件，也能处理没有密度的分布。这些表述为回归、贝叶斯更新、随机过程和概率计算奠定了基础，同时也阐明了为什么以某个观测值为条件，通常并不等同于通过干预改变它。"
    },
    {
      "heading": "初等定义与离散分布",
      "text": "初等定义从条件概率出发。若 \\(B\\) 是满足 \\(P(B)>0\\) 的事件，则给定 \\(B\\) 时，实值随机变量 \\(X\\) 的条件分布为每个博雷尔集 \\(A\\) 赋予如下概率：\n\n\\[P(X\\in A\\mid B) = \\frac{P(\\{X\\in A\\}\\cap B)}{P(B)}.\\]\n\n作为 \\(A\\) 的函数，它是一个概率测度：取值非负，赋予整个实数轴的概率为一，并且具有可列可加性。因此，条件化得到的是一个完整的概率分布，而不仅仅是一个经过修正的概率值。这个分布的各种常见特征——均值、方差、分位数和事件概率——都可以加以研究。\n\n对于离散随机变量 \\(X\\) 和 \\(Y\\)，以 \\(Y=y\\) 为条件，得到条件概率质量函数\n\n\\[p_{X\\mid Y}(x\\mid y) = \\frac{p_{X,Y}(x,y)}{p_Y(y)}, \\qquad p_Y(y)>0,\\]\n\n其中\n\n\\[p_Y(y)=\\sum_x p_{X,Y}(x,y).\\]\n\n因此，将联合概率表中相应的行或列分别归一化，就能得到条件分布。记号 \\(X\\mid Y=y\\) 是描述具有这一条件分布的随机变量的惯用写法，并不表示随机变量之间的除法。\n\n例如，掷两枚相互独立的公平六面骰子，令 \\(X\\) 为第一枚骰子的点数，\\(S\\) 为两枚骰子的点数之和。给定 \\(S=8\\)，可能的有序结果为\n\n\\[(2,6),(3,5),(4,4),(5,3),(6,2).\\]\n\n每个结果的条件概率都是 \\(1/5\\)，因此 \\(X\\) 的条件分布是 \\(\\{2,3,4,5,6\\}\\) 上的均匀分布。而它的无条件分布是 \\(\\{1,\\ldots,6\\}\\) 上的均匀分布。给定点数之和，既改变了第一枚骰子点数分布的支撑集，也改变了各点数的概率，尽管两枚骰子本身都没有发生任何物理变化。\n\n另一个例子说明，条件化是对试验结果施加限制，而不是替换试验。设 \\(N\\) 服从均值为 \\(\\lambda>0\\) 的泊松分布。以至少发生一次为条件，有\n\n\\[P(N=n\\mid N>0) = \\frac{e^{-\\lambda}\\lambda^n/n!}{1-e^{-\\lambda}}, \\qquad n=1,2,\\ldots.\\]\n\n这就是零截断泊松分布。当抽样过程只能记录计数为正的个体时，就会出现这类分布。其条件均值为 \\(\\lambda/(1-e^{-\\lambda})\\)，而不是 \\(\\lambda\\)，因为计数为零的结果已被排除。\n\n对条件变量取平均，还可以由条件分布还原原来的分布：\n\n\\[P(X\\in A) = \\sum_y P(X\\in A\\mid Y=y)P(Y=y).\\]\n\n这个恒等式将无条件分布表示为条件分布的混合。反过来，指定 \\(Y\\) 的边缘分布，并为每个可能的 \\(y\\) 指定给定该值时 \\(X\\) 的条件分布，就确定了二者的联合分布。条件化的方向很重要：\\(p_{X\\mid Y}(x\\mid y)\\) 与 \\(p_{Y\\mid X}(y\\mid x)\\) 通常不同，因为它们归一化的是同一张联合概率表中的不同部分。"
    },
    {
      "heading": "连续、混合与奇异条件分布",
      "text": "当 \\((X,Y)\\) 相对于二维勒贝格测度具有联合概率密度函数时，\\(Y\\) 的边缘密度为\n\n\\[f_Y(y)=\\int_{\\mathbb R}f_{X,Y}(x,y)\\,dx.\\]\n\n对于 \\(f_Y(y)>0\\)，一个条件密度为\n\n\\[f_{X\\mid Y}(x\\mid y) = \\frac{f_{X,Y}(x,y)}{f_Y(y)}.\\]\n\n随后可通过积分得到条件概率：\n\n\\[P(X\\in A\\mid Y=y) = \\int_A f_{X\\mid Y}(x\\mid y)\\,dx.\\]\n\n这个公式看起来与离散情形中的比值公式相似，但含义不同。通常 \\(P(Y=y)=0\\)，因此它并不是将事件 \\(\\{X\\in A,Y=y\\}\\) 与 \\(\\{Y=y\\}\\) 的概率相除而得到的。\n\n在适当的连续性假设下，密度公式与以小区间为条件时的极限一致：\n\n\\[P(X\\in A\\mid Y=y) = \\lim_{\\varepsilon\\downarrow0} P(X\\in A\\mid |Y-y|<\\varepsilon).\\]\n\n这样的极限有助于理解条件分布，但不能作为在每一点都普遍有效的定义。更一般地，利用微分定理可以证明，对几乎所有条件取值，相应的区间极限关系都成立。此外，还必须明确具体采用哪种条件化方式：不同的收缩事件族未必表达相同的信息。\n\n考虑从三角形区域\n\n\\[0<x<y<1.\\]\n\n中均匀选取一个点。其联合密度在该三角形内为 \\(2\\)，在其他地方为零。由于\n\n\\[f_Y(y)=2y,\\qquad 0<y<1,\\]\n\n条件密度为\n\n\\[f_{X\\mid Y}(x\\mid y) = \\frac1y,\\qquad 0<x<y.\\]\n\n因此，\\(X\\mid Y=y\\) 服从区间 \\((0,y)\\) 上的均匀分布。尽管 \\(Y\\) 取任一确切值的概率都为零，条件分布仍具有自然且明确的形式。\n\n并非所有联合分布都有密度，也并非所有条件分布都是连续的。如果 \\(Y=X\\)，那么在给定 \\(Y=y\\) 时，变量 \\(X\\) 以概率一等于 \\(y\\)。其条件分布是在 \\(y\\) 处的点质量 \\(\\delta_y\\)。即使 \\(X\\) 具有连续的边缘密度，\\((X,Y)\\) 的联合分布也集中在对角线上，不存在二维密度。在这个例子中使用联合密度的比值公式并不恰当。\n\n处理混合分布时也需要同样谨慎。降水模型可以赋予降水量为零的情形一个正的条件概率，并用连续密度描述正降水量：\n\n\\[\\mathcal L(X\\mid Y=y) = \\pi(y)\\delta_0+ [1-\\pi(y)]G_y,\\]\n\n其中，\\(G_y\\) 仅在正值上取概率。条件累积分布函数\n\n\\[F_{X\\mid Y}(x\\mid y)=P(X\\le x\\mid Y=y),\\]\n\n无需假设密度存在，就能涵盖离散、连续和混合情形。它的跳跃对应条件点质量，而连续部分则描述其余的概率。"
    },
    {
      "heading": "测度论表述与存在性",
      "text": "现代的一般表述以测度论为基础。在概率空间 \\((\\Omega,\\mathcal F,P)\\) 上，子σ代数 \\(\\mathcal G\\subseteq\\mathcal F\\) 表示可用的信息。对于 \\(X\\) 的状态空间中的每个可测集 \\(A\\)，条件概率定义为如下条件期望：\n\n\\[P(X\\in A\\mid\\mathcal G) = E[\\mathbf 1_{\\{X\\in A\\}}\\mid\\mathcal G],\\]\n\n其中，\\(\\mathbf 1_{\\{X\\in A\\}}\\) 是示性函数。这个对象是一个 \\(\\mathcal G\\)-可测随机变量，其定义在几乎处处相等的意义下唯一。\n\n要将这些条件概率组合成一个条件分布，就必须对各个集合 \\(A\\) 一致地选取它们的版本。正则条件分布是一个映射 \\(K(\\omega,A)\\)，满足：对每个 \\(\\omega\\)，\\(A\\mapsto K(\\omega,A)\\) 是概率测度；对每个 \\(A\\)，\\(\\omega\\mapsto K(\\omega,A)\\) 是 \\(\\mathcal G\\)-可测的。它还必须满足\n\n\\[\\int_G K(\\omega,A)\\,P(d\\omega) = P(G\\cap\\{X\\in A\\}), \\qquad G\\in\\mathcal G.\\]\n\n这一恒等式是定义中的相容性条件，用于保证条件分布与原概率模型相容。\n\n以随机变量 \\(Y\\) 为条件时，通常更适合将核写成 \\(K(y,A)\\)。概率核对条件变量可测，对集合变量则为概率测度。此时，所需的恒等式变为\n\n\\[P(X\\in A,Y\\in B) = \\int_B K(y,A)\\,P_Y(dy).\\]\n\n这表明，对条件分布按 \\(Y\\) 的边缘分布积分，就能重构联合分布。这种分解是测度分解的一个实例。\n\n在通常的统计情形下，\\(X\\) 和 \\(Y\\) 取值于标准博雷尔空间，此时可以保证条件分布存在。这类空间包括有限集或可数集、配备博雷尔σ代数的欧几里得空间，以及许多用于描述随机路径的函数空间。更一般地，只要 \\(X\\) 的状态空间是标准博雷尔空间，就能保证给定子σ代数的正则条件分布存在。如果缺乏适当的结构性假设，各个示性函数的条件期望可能存在，却不存在与它们相容的正则条件分布。\n\n唯一性是在几乎处处意义下成立的。在标准博雷尔空间的情形中，除去一个 \\(P_Y\\)-测度为零的条件取值集合后，两个条件核作为概率测度相同。它们在某个特定例外点的取值未必由联合分布确定。模型可以选取一个连续或具有其他正则性的版本，从而在该点赋予一个便于使用的值，但这种附加的正则性不同于基本定义中的要求。这一区别自然源于安德雷·柯尔莫哥洛夫于1933年系统化的概率论测度论方法：概率恒等式只能在相差零测集的意义下确定对象，而不一定能逐点确定对象。"
    },
    {
      "heading": "条件矩、独立性与信息",
      "text": "条件分布不仅决定事件的概率，也决定随机变量的函数的期望。若 \\(g(X)\\) 可积，且 \\(K(y,dx)\\) 是一个条件分布，则对几乎所有的 \\(y\\)，都有\n\n\\[E[g(X)\\mid Y=y] = \\int g(x)\\,K(y,dx)\\]\n\n取 \\(g(x)=x\\) 可得条件期望值，而取 \\(g(x)=x^2\\) 则可得条件二阶矩。条件方差为\n\n\\[\\operatorname{Var}(X\\mid Y) = E[X^2\\mid Y]-E[X\\mid Y]^2.\\]\n\n完整的分布所包含的信息比这些矩更多：两个条件分布的均值和方差可能完全相同，但偏度、尾部概率或峰的数量却可能不同。\n\n对条件均值取平均，即可得到全期望公式：\n\n\\[E[X]=E[E[X\\mid Y]].\\]\n\n对于平方可积的 \\(X\\)，全方差公式为\n\n\\[\\operatorname{Var}(X) = E[\\operatorname{Var}(X\\mid Y)] + \\operatorname{Var}(E[X\\mid Y]).\\]\n\n第一项衡量按 \\(Y\\) 划分的各组内部仍然存在的变异；第二项衡量各组条件均值之间的变异。更一般地，若 \\(\\mathcal H\\subseteq\\mathcal G\\)，则由塔式性质可得\n\n\\[E[E[X\\mid\\mathcal G]\\mid\\mathcal H] = E[X\\mid\\mathcal H].\\]\n\n这表明，先使用较详细的信息，再将信息缩减，所得结果与直接使用较少信息的结果一致。\n\n全方差公式并不意味着，观测到 \\(Y\\) 的任意一个取值都会使条件方差减小。设 \\(Y\\) 以相同概率取 \\(0\\) 或 \\(1\\)，并假定\n\n\\[X\\mid Y=0\\sim N(0,1), \\qquad X\\mid Y=1\\sim N(0,9).\\]\n\n此时 \\(\\operatorname{Var}(X)=5\\)，但 \\(\\operatorname{Var}(X\\mid Y=1)=9\\)。观测到 \\(Y=1\\)，就得知 \\(X\\) 来自变异程度更大的那个分量。额外信息会降低最优平方预测误差的平均值，但并不意味着，对每一次实际观测，按任意标准衡量的不确定性都会降低。\n\n统计独立性可以直接用条件分布来刻画。变量 \\(X\\) 与 \\(Y\\) 独立，当且仅当给定 \\(Y\\) 时 \\(X\\) 的条件分布几乎必然等于其边缘分布。仅有条件均值相等是一个更弱的条件。在前面的方差混合例子中，\\(Y\\) 的两个取值都对应于 \\(E[X\\mid Y]=0\\)，但 \\(X\\) 与 \\(Y\\) 并不独立，因为相应的条件方差不同。同样，相关关系为零通常也不意味着条件分布与边缘分布相等。\n\n给定 \\(Y\\) 时 \\(X\\) 与 \\(Z\\) 条件独立，意味着一旦已知 \\(Y\\)，再获知 \\(Z\\) 也不会进一步改变 \\(X\\) 的条件分布。选取适当的条件分布版本后，有\n\n\\[\\mathcal L(X\\mid Y,Z)=\\mathcal L(X\\mid Y).\\]\n\n对于离散变量，条件熵是各条件分布的熵的平均值。当相关量均为有限值时，熵的减少量\n\n\\[H(X)-H(X\\mid Y)=I(X;Y)\\]\n\n就是互信息。它衡量的是分布层面上平均获得的信息，而不仅仅是均值预测的改善。"
    },
    {
      "heading": "重要的分布族",
      "text": "一些经典分布族具有特别有用的条件分布。若 \\(X\\) 和 \\(Y\\) 联合服从多元正态分布，其均值向量和协方差矩阵分别为\n\n\\[\\begin{pmatrix}\\mu_X\\\\\\mu_Y\\end{pmatrix}, \\qquad \\begin{pmatrix} \\Sigma_{XX}&\\Sigma_{XY}\\\\ \\Sigma_{YX}&\\Sigma_{YY} \\end{pmatrix},\\]\n\n且 \\(\\Sigma_{YY}\\) 可逆，则\n\n\\[X\\mid Y=y\\sim N\\!\\left( \\mu_X+\\Sigma_{XY}\\Sigma_{YY}^{-1}(y-\\mu_Y), \\Sigma_{XX}-\\Sigma_{XY}\\Sigma_{YY}^{-1}\\Sigma_{YX} \\right).\\]\n\n条件均值是 \\(y\\) 的仿射函数，而条件协方差不依赖于 \\(y\\)。后一性质比较特殊：许多非高斯模型的条件离散程度会随观测值而变化。\n\n对于相关系数为 \\(\\rho\\) 的标准化标量正态变量，上式简化为\n\n\\[X\\mid Y=y\\sim N(\\rho y,1-\\rho^2).\\]\n\n若 \\(\\rho=0\\)，条件分布就等于边缘分布，这反映出联合服从高斯分布的变量若不相关，就相互独立。若 \\(|\\rho|=1\\)，联合分布是奇异的，条件分布则退化为集中于单点的分布。联合正态性至关重要：仅凭边缘分布为正态分布，既不能推出上述条件分布公式，也不能得出独立性的结论。在计算中，上式中的求逆运算通常通过求解线性方程组来实现，而不是显式构造逆矩阵。\n\n计数分布提供了另一个基本例子。设 \\(X\\) 和 \\(Y\\) 是相互独立的泊松变量，均值分别为正数 \\(\\lambda\\) 和 \\(\\mu\\)。给定二者之和，有\n\n\\[X\\mid X+Y=n \\sim \\operatorname{Binomial} \\left(n,\\frac{\\lambda}{\\lambda+\\mu}\\right).\\]\n\n事实上，将\n\n\\[P(X=k,Y=n-k) = e^{-(\\lambda+\\mu)} \\frac{\\lambda^k\\mu^{n-k}}{k!(n-k)!}\\]\n\n除以 \\(P(X+Y=n)\\)，即可得到二项分布的概率质量函数。总数描述发生了多少次事件，而条件分布则描述这些事件如何分配到两个类别中。对于更多个相互独立的泊松计数，以它们的总和为条件，便会得到多项分布。\n\n不放回抽样会产生另一种分配规律。在一个含有 \\(N\\) 个对象、其中 \\(K\\) 个带有标记的总体中，等概率抽取容量为 \\(n\\) 的样本，样本中带标记对象的数量 \\(X\\) 满足\n\n\\[P(X=k\\mid K) = \\frac{\\binom Kk\\binom{N-K}{n-k}}{\\binom Nn},\\]\n\n其中 \\(k\\) 取可行值。若 \\(K\\) 由设计固定，这只是以 \\(K\\) 为参数的抽样分布；若 \\(K\\) 是随机的，它才是真正意义上的条件分布。这一区别将参数化分布族与针对参数本身建立的概率模型区分开来。\n\n条件分布族也不一定与其边缘分布属于同一分布族。若 \\(X\\mid\\Lambda=\\lambda\\) 服从泊松分布，而 \\(\\Lambda\\) 服从伽马分布，将 \\(\\Lambda\\) 积分消去后，得到的边缘分布是负二项分布。因此，条件分布呈现泊松型变异的同时，边缘方差仍可能大于边缘均值。这类混合构造清楚地说明，分布假设必须明确其所针对的是无条件的总体、某个子群体，还是给定潜变量时的情形。"
    },
    {
      "heading": "统计推断与预测分布",
      "text": "在统计学中，模型通常规定给定参数 \\(\\theta\\) 时观测数据 \\(D\\) 的条件分布。如果将参数视为固定值，这就构成了以 \\(\\theta\\) 为索引的一族抽样分布。对于固定的观测数据，将同一个表达式看作 \\(\\theta\\) 的函数，便得到似然函数。似然函数在参数取值空间上的积分不一定为一，因此不能自动将其视为参数的条件分布。\n\n在贝叶斯推断中，先验分布使参数成为联合概率模型的一部分。当分母为正且有限时，贝叶斯定理给出后验分布\n\n\\[\\pi(\\theta\\mid d) = \\frac{p(d\\mid\\theta)\\pi(\\theta)} {\\int p(d\\mid u)\\pi(u)\\,du},\\]\n\n其中，分母是观测值的边际似然。这个公式是将参数与数据的角色对调后进行的条件密度计算；其解释取决于先验分布与抽样分布共同确定的联合模型。\n\n举一个具体例子：设 \\(X\\mid\\theta\\) 服从试验次数为 \\(n\\)、成功概率为 \\(\\theta\\) 的二项分布，且 \\(\\theta\\) 服从参数为 \\(a,b>0\\) 的贝塔分布。观测到 \\(X=x\\) 后，\n\n\\[\\theta\\mid X=x \\sim \\operatorname{Beta}(a+x,b+n-x).\\]\n\n对于另一个伯努利试验结果 \\(Z\\)，若给定 \\(\\theta\\) 时它与 \\(X\\) 条件独立，则有\n\n\\[P(Z=1\\mid X=x)=\\frac{a+x}{a+b+n}.\\]\n\n这一预测概率是对成功概率按后验分布取平均得到的，而不是把估计出的参数当作已知且不存在不确定性的值。\n\n更一般地，后验预测分布为\n\n\\[p(\\widetilde x\\mid d) = \\int p(\\widetilde x\\mid\\theta,d)\\pi(\\theta\\mid d)\\,d\\theta.\\]\n\n如果给定 \\(\\theta\\) 时未来数据与观测数据条件独立，第一个因子就简化为 \\(p(\\widetilde x\\mid\\theta)\\)。对于多个未来结果，即使它们在给定参数时条件独立，对这个共同的不确定参数积分后，也可能在预测分布中产生相依性。这也是完整的预测分布不同于一组单独的点预测的原因之一。\n\n条件分布还将预测与决策理论联系起来。在平方误差损失函数下，最优预测是条件均值。在绝对误差损失下，任一条件中位数都是最优预测。最小化非对称损失\n\n\\[\\rho_\\tau(u)=u\\bigl(\\tau-\\mathbf1_{\\{u<0\\}}\\bigr), \\qquad 0<\\tau<1,\\]\n\n得到的是条件分位数。因此，针对 \\(E[X\\mid Y]\\) 的回归模型只规定了条件分布的一个泛函。要计算预测区间、超过阈值的概率或非对称决策风险，还需要额外的分布信息。预测区间针对的是未来结果，而置信区间针对的是重复抽样框架下的参数；两者不能互换。"
    },
    {
      "heading": "随机过程与图模型分解",
      "text": "对于随机过程 \\((X_t)\\)，条件分布描述了随着观测不断积累，系统如何演化。滤过 \\((\\mathcal F_t)\\) 表示截至时刻 \\(t\\) 可获得的信息。给定 \\(\\mathcal F_t\\) 时 \\(X_{t+1}\\) 的分布称为一步预测分布。对于一般的随机过程，它可能依赖于过去的全部观测，而不仅仅依赖于最近的状态。\n\n马尔可夫性质指出，当前状态包含了预测未来所需的全部历史信息。对于离散时间马尔可夫链，\n\n\\[P(X_{t+1}\\in A\\mid X_0,\\ldots,X_t) = P(X_{t+1}\\in A\\mid X_t).\\]\n\n时间齐次转移核 \\(K(x,A)\\) 给出了这一条件分布，且不显式依赖于 \\(t\\)。在有限状态空间中，其取值构成一个转移矩阵。多步预测通过转移核的复合实现：\n\n\\[K^{n+m}(x,A) = \\int K^m(z,A)\\,K^n(x,dz),\\]\n\n这是查普曼—柯尔莫哥洛夫方程的一种形式。\n\n在隐马尔可夫模型中，状态无法直接观测，测量只能提供关于状态的部分信息。设 \\(K\\) 为转移核，\\(g(y_t\\mid x_t)\\) 为观测密度，\\(\\pi_{t-1}\\) 为给定过去观测时前一状态的条件分布，则预测得到\n\n\\[\\pi_{t\\mid t-1}(dx_t) = \\int K(x_{t-1},dx_t)\\,\\pi_{t-1}(dx_{t-1}).\\]\n\n随后利用观测更新这一分布：\n\n\\[\\pi_t(dx_t) = \\frac{g(y_t\\mid x_t)\\pi_{t\\mid t-1}(dx_t)} {\\int g(y_t\\mid u)\\pi_{t\\mid t-1}(du)}.\\]\n\n因此，滤波就是交替进行条件预测和依据新证据更新条件分布的过程。在线性高斯模型中，卡尔曼滤波器利用均值和协方差矩阵实现这些运算。\n\n条件分布也可以用来组织不具有时间顺序的多变量模型。概率的链式法则将联合密度函数或联合概率质量函数分解为\n\n\\[p(x_1,\\ldots,x_n) = p(x_1)\\prod_{i=2}^n p(x_i\\mid x_1,\\ldots,x_{i-1}).\\]\n\n贝叶斯网络利用有向无环图，将每个变量的全部前驱变量集合替换为一个较小的父节点集合：\n\n\\[p(x_1,\\ldots,x_n) = \\prod_i p(x_i\\mid x_{\\mathrm{pa}(i)}).\\]\n\n局部条件分布刻画了依赖关系所受的约束，而图结构则有助于实现高效推断。\n\n不过，指定局部条件分布时仍需谨慎。即使给出了一整套完全条件分布，其中每个分布都描述给定其余所有分量时某一分量的分布，也不能自动保证它们与同一个联合分布相容。相容性成立时，这些条件分布可用于吉布斯抽样，这是一种马尔可夫链蒙特卡洛方法。每次更新都在给定其他分量当前值的条件下，从某一分量的条件分布中抽取新值。目标联合分布在这种更新下保持不变，但要保证从选定的初始点出发能够收敛，还需要额外条件。取值范围狭窄且相互依赖很强的条件分布，也可能使马尔可夫链对联合分布的探索变得缓慢。"
    },
    {
      "heading": "估计、条件的选择与因果解释",
      "text": "在实际应用中，联合分布通常未知，因此需要估计条件分布。参数方法指定一个分布族 \\(p_\\theta(x\\mid y)\\)，并估计参数 \\(\\theta\\)，通常采用最大似然估计。广义线性模型通过指数族结构，以及预测变量与条件均值之间的连接函数，来指定条件分布。还有一些方法估计条件分位数或完整的条件密度。这些方法的统计目标各不相同：均值估计准确，并不意味着尾部概率也估计准确。\n\n非参数估计可以对预测变量取值接近 \\(y\\) 的观测赋予更大的权重，以此近似实现条件化。对于标量观测 \\((X_i,Y_i)\\)，条件密度估计量可以采用以下形式：\n\n\\[\\widehat f(x\\mid y) = \\frac{ \\sum_{i=1}^n K_h(x-X_i)L_b(y-Y_i) }{ \\sum_{i=1}^n L_b(y-Y_i) },\\]\n\n其中，\\(K_h\\) 和 \\(L_b\\) 是非负的核密度函数，带宽分别为 \\(h\\) 和 \\(b\\)。分母用于将局部权重归一化。如果 \\(y\\) 附近的观测很少，估计就会不稳定，或难以可靠确定。当条件变量较多时，维数灾难会使局部估计所需的数据量急剧增加，因此需要引入结构性假设、降维或正则化。\n\n条件化还取决于究竟给定了什么信息。当“一个点位于这条曲线上”之类的非形式化表述没有明确指定观测机制时，就会出现一种常见的零概率难题，通常称为博雷尔悖论。对于球面上均匀分布的点，在大圆周围取几何形状不同、逐渐收缩的带状区域，可能会在该大圆上产生不同的极限分布。一旦明确了条件变量或事件收缩的具体方式，就不存在矛盾。歧义源于试图仅凭极限集合本身推断出唯一的条件分布。\n\n最重要的是，基于观测的条件化通常不等同于因果干预。分布\n\n\\[P(Y\\in A\\mid X=x)\\]\n\n描述的是在观测到 \\(X=x\\) 的那些个体或情形中，结果如何分布。通过外部干预将 \\(X\\) 设为 \\(x\\)，会改变生成 \\(X\\) 的机制，其结果分布未必与观测到的这一子群体相同。因此，因果推断除了需要观测数据的联合分布，还需要关于因果结构或实验分配方式的假设。用于预测的条件模型无论多么准确，都不能仅凭自身识别出改变其预测变量所产生的效应。\n\n条件化甚至可以产生关联。如果 \\(X\\) 和 \\(Y\\) 是两个相互独立的公平硬币投掷结果的指示变量，在给定 \\(X+Y=1\\) 的条件下，就有 \\(Y=1-X\\)：在这个筛选出的群体内，两者呈完全负关联。从图模型的角度看，以共同结果为条件，可能会使原本相互独立的原因之间产生依赖。这一机制是某些选择偏差的成因。与此相关，各组内部的条件关系可能不同于边际关系，因为各组在混合时所占的权重不同。因此，解释条件分布时，需要明确条件变量、由这些变量筛选出的人群，以及观测进入数据集的过程。"
    }
  ],
  "links": [
    "random-variable",
    "probability-distribution",
    "joint-probability-distribution",
    "conditional-probability",
    "probability-mass-function",
    "poisson-distribution",
    "lebesgue-measure",
    "probability-density-function",
    "uniform-distribution",
    "cumulative-distribution-function",
    "measure-theory",
    "probability-space",
    "sigma-algebra",
    "conditional-expectation",
    "indicator-function",
    "borel-sigma-algebra",
    "andrey-kolmogorov",
    "expected-value",
    "variance",
    "statistical-independence",
    "correlation",
    "conditional-independence",
    "conditional-entropy",
    "mutual-information",
    "multivariate-normal-distribution",
    "covariance-matrix",
    "inverse-matrix",
    "binomial-distribution",
    "statistics",
    "likelihood-function",
    "bayesian-inference",
    "prior-distribution",
    "bayes-theorem",
    "posterior-distribution",
    "marginal-likelihood",
    "beta-distribution",
    "posterior-predictive-distribution",
    "decision-theory",
    "loss-function",
    "median",
    "quantile",
    "prediction-interval",
    "stochastic-process",
    "filtration-probability",
    "markov-property",
    "markov-chain",
    "transition-matrix",
    "chapman-kolmogorov-equations",
    "hidden-markov-model",
    "kalman-filter",
    "bayesian-network",
    "markov-chain-monte-carlo",
    "maximum-likelihood-estimation",
    "generalized-linear-model",
    "curse-of-dimensionality",
    "causal-inference",
    "selection-bias"
  ],
  "sources": [],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}