{
  "id": "law-of-total-probability",
  "title": "全概率公式",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "全概率公式通过对互斥且穷尽的各类情形下的条件概率加权平均，计算事件的概率。",
  "category": "mathematics",
  "subcategory": "probability-statistics",
  "type": "concept",
  "aliases": [
    "全概率定理"
  ],
  "generated_at": "2026-11-04",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/law-of-total-probability/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/law-of-total-probability/",
      "json": "https://aiwiki.page/en/law-of-total-probability.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "全概率公式是概率论中的一条定理，它将事件的概率表示为该事件在不同条件下的概率的加权和。当这些条件构成互斥且穷尽的各类情形时，每个条件概率的权重就是对应情形的概率。这一公式提供了一种间接计算概率的基本方法，是贝叶斯定理中分母的计算依据，也可以推广为对连续变化的条件进行积分的形式。"
    },
    {
      "heading": "定理表述",
      "text": "设 \\((\\Omega,\\mathcal F,P)\\) 为一个概率空间，\\(A\\) 为一个事件。假设 \\(B_1,\\ldots,B_n\\) 是可测事件，构成样本空间的一个集合划分：\n\n\\[B_i\\cap B_j=\\varnothing \\quad\\text{for }i\\ne j, \\qquad \\bigcup_{i=1}^{n}B_i=\\Omega.\\]\n\n如果对每个 \\(i\\) 都有 \\(P(B_i)>0\\)，那么\n\n\\[\\boxed{ P(A)=\\sum_{i=1}^{n}P(A\\mid B_i)P(B_i) }\\]\n\n其中，\\(P(A\\mid B_i)\\) 表示在 \\(B_i\\) 发生的条件下，\\(A\\) 发生的条件概率。\n\n同样的公式也适用于可数无穷划分：\n\n\\[P(A)=\\sum_{i=1}^{\\infty}P(A\\mid B_i)P(B_i).\\]\n\n各项均非负，该级数收敛于 \\([0,1]\\) 内的一个值。这些情形也可以仅覆盖样本空间中除某个零概率事件以外的部分；结果仍然不变。\n\n一个不要求划分中各事件的概率为正的等价表述是\n\n\\[P(A)=\\sum_i P(A\\cap B_i).\\]\n\n如果某个 \\(B_i\\) 的概率为零，那么它与 \\(A\\) 的交集的概率也为零。在条件概率形式的公式中，可以省略这样的项，而不必尝试定义比值 \\(P(A\\cap B_i)/P(B_i)\\)。\n\n两种情形的形式\n\n一个常见的特例是使用事件 \\(B\\) 及其补事件 \\(B^c\\)。当 \\(0<P(B)<1\\) 时，\n\n\\[P(A) = P(A\\mid B)P(B) + P(A\\mid B^c)P(B^c).\\]\n\n这将计算分为两种可能情形：\\(B\\) 发生，或 \\(B\\) 不发生。"
    },
    {
      "heading": "证明与解释",
      "text": "由于划分中的事件互斥且穷尽，\n\n\\[A=\\bigcup_i(A\\cap B_i),\\]\n\n且事件 \\(A\\cap B_i\\) 两两互斥。因此，由可数可加性可得\n\n\\[P(A)=\\sum_i P(A\\cap B_i).\\]\n\n根据条件概率的定义，只要 \\(P(B_i)>0\\)，就有\n\n\\[P(A\\cap B_i)=P(A\\mid B_i)P(B_i)\\]\n\n代入即得所要证明的公式。\n\n因此，全概率公式是概率公理和条件概率定义的推论，而不是对模型作出的额外假设。\n\n对于有限划分，该公式将 \\(P(A)\\) 表示为各条件概率的一个凸组合：权重 \\(P(B_i)\\) 均非负，且总和为一。因此，\n\n\\[\\min_i P(A\\mid B_i) \\le P(A)\\le \\max_i P(A\\mid B_i).\\]\n\n权重至关重要。除非各类情形等可能发生，否则直接对条件概率取普通算术平均通常是错误的。\n\n这里不需要任何统计独立性假设。如果 \\(A\\) 与划分中的每个事件都独立，那么对于每个概率为正的情形，都有 \\(P(A\\mid B_i)=P(A)\\)，公式便化为\n\n\\[P(A)=P(A)\\sum_i P(B_i).\\]"
    },
    {
      "heading": "示例：多家工厂供货",
      "text": "假设某经销商从三家工厂进货：\n\n工厂 | 供货占比 | 次品概率\n1 | \\(0.50\\) | \\(0.01\\)\n2 | \\(0.30\\) | \\(0.02\\)\n3 | \\(0.20\\) | \\(0.04\\)\n\n令 \\(D\\) 表示随机抽取的一件产品为次品这一事件，\\(B_i\\) 表示该产品来自第 \\(i\\) 家工厂。那么\n\n\\[\\begin{aligned} P(D) &=P(D\\mid B_1)P(B_1) +P(D\\mid B_2)P(B_2) +P(D\\mid B_3)P(B_3)\\\\ &=(0.01)(0.50)+(0.02)(0.30)+(0.04)(0.20)\\\\ &=0.019. \\end{aligned}\\]\n\n因此，总体次品概率为 \\(1.9\\%\\)。三家工厂次品率的未加权平均值约为 \\(2.33\\%\\)，但这种计算忽略了各工厂在经销商货源中所占比例的差异。\n\n应采用的权重取决于抽样方式。等概率地选择一家工厂，再从该工厂的产品中抽取一件，与从经销商的库存中等概率地抽取一件产品，是两种不同的试验。"
    },
    {
      "heading": "条件形式",
      "text": "全概率公式本身也可以在给定某个条件事件的情况下使用。如果 \\(P(C)>0\\)，那么\n\n\\[P(A\\mid C) = \\sum_i P(A\\mid B_i\\cap C)P(B_i\\mid C),\\]\n\n其中省略满足 \\(P(B_i\\cap C)=0\\) 的项。\n\n这就是将通常的全概率公式应用于概率测度 \\(P(\\,\\cdot\\mid C)\\)。各类情形的概率，以及各情形内部的概率，都必须在给定额外信息 \\(C\\) 的条件下计算。一般而言，不能用无条件权重 \\(P(B_i)\\) 替代 \\(P(B_i\\mid C)\\)。"
    },
    {
      "heading": "随机变量形式与连续形式",
      "text": "以离散随机变量为条件\n\n如果随机变量 \\(X\\) 只取有限个或可数个值，则事件 \\(\\{X=x\\}\\) 构成一个划分。因此，\n\n\\[P(A)=\\sum_{x:P(X=x)>0}P(A\\mid X=x)P(X=x).\\]\n\n当各类情形由计数、类别、状态或未观测变量的取值确定时，这一表述尤其有用。\n\n以连续随机变量为条件\n\n如果 \\(X\\) 具有概率密度函数 \\(f_X\\)，则相应的表达式为\n\n\\[P(A)=\\int_{\\mathbb R}P(A\\mid X=x)f_X(x)\\,dx,\\]\n\n其中 \\(P(A\\mid X=x)\\) 通过适当选取的条件概率版本来解释。\n\n对于服从连续分布的 \\(X\\)，每个单独事件 \\(\\{X=x\\}\\) 的概率都为零。因此，该积分中的条件概率一般不能用初等定义中的比值\n\n\\[\\frac{P(A\\cap\\{X=x\\})}{P(X=x)}.\\]\n\n来定义。\n\n相反，它需要借助条件分布或条件期望来定义。在标准的正则性条件下，包括通常的实值情形，适当的条件分布是存在的。它们的取值只需对 \\(P_X\\)-几乎处处的 \\(x\\) 作出规定，其中 \\(P_X\\) 是 \\(X\\) 的概率分布。\n\n更一般的积分形式为\n\n\\[P(A)=\\int P(A\\mid X=x)\\,P_X(dx).\\]\n\n这一表述也涵盖离散分布和混合分布。\n\n边际分布\n\n将全概率公式应用于涉及另一个随机变量 \\(Y\\) 的事件，可以得到边际化公式。如果 \\(X\\) 和 \\(Y\\) 具有联合概率密度，且 \\(f_{Y\\mid X}\\) 是与之相容的条件密度，那么\n\n\\[f_Y(y)=\\int_{\\mathbb R}f_{Y\\mid X}(y\\mid x)f_X(x)\\,dx\\]\n\n对几乎处处的 \\(y\\) 成立。\n\n因此，通过对辅助变量的可能取值求和或积分来消去该变量，就是全概率公式在分布层面的体现。"
    },
    {
      "heading": "与条件期望的联系",
      "text": "最一般的表述使用条件期望。对于子σ代数 \\(\\mathcal G\\subseteq\\mathcal F\\)，定义\n\n\\[P(A\\mid\\mathcal G) = E[\\mathbf 1_A\\mid\\mathcal G],\\]\n\n其中 \\(\\mathbf 1_A\\) 是 \\(A\\) 的示性函数。于是\n\n\\[\\boxed{ P(A)=E\\!\\left[P(A\\mid\\mathcal G)\\right]. }\\]\n\n这是将迭代期望定律应用于示性函数所得的结果。更一般地，对于任意可积随机变量 \\(Y\\)，有\n\n\\[E[Y]=E\\!\\left[E[Y\\mid\\mathcal G]\\right].\\]\n\n当 \\(\\mathcal G\\) 由有限或可数划分生成时，条件概率在划分中每个概率为正的事件上均为常数，期望便化为熟悉的加权和。这将全概率公式与更广泛的期望值理论联系起来，同时不要求条件事件具有正概率。"
    },
    {
      "heading": "应用",
      "text": "贝叶斯推断\n\n对于构成一个划分的假设 \\(B_i\\)，贝叶斯定理可写为\n\n\\[P(B_k\\mid A) = \\frac{P(A\\mid B_k)P(B_k)} {\\sum_i P(A\\mid B_i)P(B_i)}, \\qquad P(A)>0.\\]\n\n全概率公式给出了分母，用于对更新后的概率进行归一化。\n\n在贝叶斯推断中，相应的连续运算是对似然按先验分布进行积分。所得的边际似然为\n\n\\[p(y)=\\int p(y\\mid\\theta)\\,\\pi(d\\theta),\\]\n\n其中 \\(\\pi\\) 是先验概率测度。\n\n混合分布\n\n在含有潜在类别变量 \\(Z\\) 的模型中，观测值的分布通过对各类别对应的分布加权平均得到：\n\n\\[P(Y\\in A) = \\sum_k P(Y\\in A\\mid Z=k)P(Z=k).\\]\n\n对于高斯混合模型，由此得到的是正态密度的加权和。分量标签确定了划分，而混合权重则给出了划分中各事件的概率。\n\n马尔可夫链\n\n对于离散状态马尔可夫链，以中间时刻的状态为条件，可得\n\n\\[P(X_{n+m}=j\\mid X_0=i) = \\sum_k P(X_{n+m}=j\\mid X_n=k) P(X_n=k\\mid X_0=i),\\]\n\n这里要求相关条件事件的概率为正。第一个条件概率的简化使用了马尔可夫性质；对中间状态求和则使用了全概率公式。对于时间齐次链，由此可得到查普曼—柯尔莫哥洛夫方程。"
    },
    {
      "heading": "适用条件与常见错误",
      "text": "- 情形重叠会造成重复计算。 简单求和的形式要求各类情形互斥。对于相互重叠的事件，必须先将其改写为适当的划分，或使用其他恒等式处理。\n- 情形不完整会遗漏概率。 如果所选情形未能覆盖样本空间中除零概率事件以外的全部部分，就需要补上剩余情形。\n- 条件概率必须加权。 仅将 \\(P(A\\mid B_i)\\) 相加，一般不能得到 \\(P(A)\\)。\n- 以零概率事件为条件时须谨慎。 当条件事件的概率为零时，初等定义下的条件概率没有定义；连续条件化需要更一般的构造。\n- 不可数划分需要使用积分。 可数可加性不能作为对单个结果作不可数求和的依据。尤其是，将概率为零的单点事件相加，并不是计算连续概率的有效方法。\n- 条件化不等于干预。 该公式讨论的是观测条件概率。其中各项本身并不能描述改变或干预条件变量所产生的效果；这一区别属于因果推断的研究范畴。"
    }
  ],
  "links": [
    "probability",
    "bayes-theorem",
    "probability-space",
    "event-probability",
    "sample-space",
    "set-partition",
    "conditional-probability",
    "convex-combination",
    "statistical-independence",
    "random-variable",
    "probability-density-function",
    "probability-distribution",
    "joint-probability-distribution",
    "conditional-expectation",
    "sigma-algebra",
    "indicator-function",
    "expected-value",
    "bayesian-inference",
    "marginal-likelihood",
    "gaussian-mixture-model",
    "markov-chain",
    "chapman-kolmogorov-equations",
    "causal-inference"
  ],
  "sources": [],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}