{
  "id": "markov-property",
  "title": "马尔可夫性质",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "马尔可夫性质是指：给定过程的当前状态后，其未来演化不依赖于过去的历史。",
  "category": "mathematics",
  "subcategory": "probability-statistics",
  "type": "concept",
  "aliases": [
    "马尔可夫性"
  ],
  "generated_at": "2026-10-04",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/markov-property/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/markov-property/",
      "json": "https://aiwiki.page/en/markov-property.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "马尔可夫性质是概率论中的一个条件，指随机过程的当前状态包含了确定其未来条件分布所需的全部历史信息。通俗地说，一旦知道当前状态，未来与过去就相互独立。这一性质以安德烈·马尔可夫命名，是定义马尔可夫链及更一般的马尔可夫过程的基本原则。它描述的是条件分布，而不是说相继出现的状态互不相关，也不是说未来可以被确定无疑地预测。(statslab.cam.ac.uk)"
    },
    {
      "heading": "数学定义",
      "text": "对于离散时间过程 \\(X_0,X_1,\\ldots\\)，每个 \\(X_n\\) 都是表示时刻 \\(n\\) 的状态的随机变量。在可数状态空间上，马尔可夫性质可以写成\n\n\\[\\Pr(X_{n+1}=x\\mid X_0=x_0,\\ldots,X_n=x_n) = \\Pr(X_{n+1}=x\\mid X_n=x_n),\\]\n\n其中所考虑的历史具有正概率。因此，一旦确定了当前状态，知道更早的状态就不会改变下一状态的概率分布。反复应用这一性质，可以将上述结论从下一步推广到未来任意有限的状态序列。这是一种条件独立，而不是无条件的统计独立性。(galton.uchicago.edu)\n\n对于一般状态空间和连续时间，定义需要使用滤过 \\((\\mathcal F_t)\\)，即表示可用信息的一族递增的σ代数。如果一个适应于该滤过的过程对每个有界可测函数 \\(f\\) 和 \\(s<t\\) 都满足\n\n\\[\\mathbb E[f(X_t)\\mid\\mathcal F_s] = \\mathbb E[f(X_t)\\mid X_s] \\quad\\text{几乎必然成立},\\]\n\n则称该过程相对于此滤过具有马尔可夫性质。\n\n这种表述使用条件期望，避免了直接以可能具有零概率的单个状态为条件。滤过的选择至关重要：超出过程自身观测历史的信息，可能影响上述等式是否成立。(ethz.ch)"
    },
    {
      "heading": "转移概率与时间齐次性",
      "text": "马尔可夫过程可以通过转移概率 \\(P_{s,t}(x,A)\\) 来描述：它表示在时刻 \\(s\\) 的状态为 \\(x\\) 的条件下，时刻 \\(t\\) 的状态落在可测集 \\(A\\) 中的概率。马尔可夫性质并不要求这些概率不随时间变化。时间齐次性是一个额外条件，要求转移概率只依赖于 \\(t-s\\)，而不是分别依赖于 \\(s\\) 和 \\(t\\)。(web.stanford.edu)\n\n对于有限或可数状态空间上的时间齐次马尔可夫链，单步转移概率构成一个转移矩阵 \\(P\\)，其元素非负，且每行元素之和为一。\\(n\\) 步转移概率就是 \\(P^n\\) 的元素。更一般地，转移概率满足查普曼—柯尔莫哥洛夫方程：\n\n\\[P_{s,t}(x,A) = \\int P_{u,t}(y,A)\\,P_{s,u}(x,dy), \\qquad s<u<t.\\]\n\n这些方程通过中间状态将两段转移组合起来。(galton.uchicago.edu)\n\n时间齐次性也不同于平稳过程的性质；平稳过程的有限维分布在时间平移下保持不变。齐次链的边缘分布可能因初始条件而随时间变化。如果初始状态服从平稳分布，则得到的过程就是平稳的。无论平稳性还是齐次性，都不能代替马尔可夫条件。(web.stanford.edu)"
    },
    {
      "heading": "示例与“记忆”的含义",
      "text": "简单的随机游走可以说明这一性质。每一步都通过一次独立的抛硬币试验，决定游走者向左还是向右移动一个单位。给定当前位置后，先前的位置不会提供有关后续位置的额外信息。不过，当前位置记录了先前各步的累积影响，因此将这一过程称为“无记忆”，并不意味着过去没有留下任何痕迹。(stat.uchicago.edu)\n\n布朗运动是一个连续时间的例子。在固定时刻 \\(s\\)，未来的增量 \\(B_{s+t}-B_s\\) 构成一个布朗运动，且与截至 \\(s\\) 的历史独立。因此，未来位置的条件分布对这段历史的依赖仅体现在 \\(B_s\\) 上。在这里，独立增量保证了马尔可夫性质，但一般的马尔可夫过程并不要求具有独立增量。(stat.uchicago.edu)\n\n模型是否具有马尔可夫性质，取决于如何表示状态。仅用位置可能会遗漏运动系统的相关信息，而在理想化的力学模型中，位置与速度合在一起就能确定系统的演化。因此，一个状态可以包含过去的信息，同时仍满足马尔可夫条件。(web.stanford.edu)"
    },
    {
      "heading": "强马尔可夫性质",
      "text": "通常的马尔可夫性质针对的是固定的、确定性的时刻。强马尔可夫性质将重新开始的原则推广到停时，即仅凭已有信息就能判断其是否已经发生的随机时刻。首次到达某个状态或集合的时刻是一个典型例子。(stat.uchicago.edu)\n\n对于具有转移算子 \\(P_t\\) 的时间齐次过程，强马尔可夫性质可写为\n\n\\[\\mathbb E[f(X_{\\tau+t})\\mid\\mathcal F_\\tau] = (P_t f)(X_\\tau)\\]\n\n该等式在 \\(\\{\\tau<\\infty\\}\\) 上成立，并须满足通常的可测性条件。给定 \\(\\tau\\) 时刻的状态后，后续过程遵循的转移规律，与从该状态出发的过程相同。离散时间马尔可夫链具有这一性质；在连续时间中，并非每个马尔可夫过程都自动具有这一性质。布朗运动和标准的连续时间马尔可夫链都满足强马尔可夫性质。不能用涉及未来信息的任意随机时刻来代替停时。(statslab.cam.ac.uk)"
    },
    {
      "heading": "隐状态与决策模型",
      "text": "在隐马尔可夫模型中，潜在状态序列具有马尔可夫性质，但观测序列通常没有。较早的观测可以帮助推断当前的隐藏状态，从而在仅凭最新观测所作的预测之外，进一步提高预测能力。因此，仅观测马尔可夫状态的某个函数值或带噪声的测量值，不一定能保留马尔可夫性质。(stat.cmu.edu)\n\n在强化学习中，马尔可夫决策过程采用了受控版本的马尔可夫性质：给定当前状态和动作后，下一状态与奖励的分布独立于此前的交互历史。这使得动态规划和贝尔曼方程能够利用当前状态，以递归方式表达未来价值。当观测遗漏了相关状态信息时，部分可观测马尔可夫决策过程会区分底层的马尔可夫动态与智能体掌握的不完整信息。这里需要区分的是：模型所描述状态的动态规律，以及提供给智能体的观测是否足以支持预测。(web.stanford.edu)"
    }
  ],
  "links": [
    "probability",
    "stochastic-process",
    "andrey-markov",
    "markov-chain",
    "random-variable",
    "probability-distribution",
    "conditional-independence",
    "statistical-independence",
    "filtration-probability",
    "sigma-algebra",
    "conditional-expectation",
    "transition-matrix",
    "chapman-kolmogorov-equations",
    "stationary-process",
    "stationary-distribution",
    "random-walk",
    "brownian-motion",
    "continuous-time-markov-chain",
    "hidden-markov-model",
    "reinforcement-learning",
    "markov-decision-process",
    "dynamic-programming",
    "bellman-equation",
    "partially-observable-markov-decision-process"
  ],
  "sources": [
    {
      "title": "statslab.cam.ac.uk/~rrw1/markov/M.pdf",
      "url": "https://www.statslab.cam.ac.uk/~rrw1/markov/M.pdf"
    },
    {
      "title": "galton.uchicago.edu/~lalley/Courses/383/MarkovChains.pdf",
      "url": "https://galton.uchicago.edu/~lalley/Courses/383/MarkovChains.pdf"
    },
    {
      "title": "ethz.ch/content/dam/ethz/special-interest/math/department/Research/Research_Gro…",
      "url": "https://ethz.ch/content/dam/ethz/special-interest/math/department/Research/Research_Groups/Sznitman/Lectures/Lecture04.pdf"
    },
    {
      "title": "web.stanford.edu/class/stat217/New12.pdf",
      "url": "https://web.stanford.edu/class/stat217/New12.pdf"
    },
    {
      "title": "stat.uchicago.edu/~lalley/Courses/390/Lecture5.pdf",
      "url": "https://www.stat.uchicago.edu/~lalley/Courses/390/Lecture5.pdf"
    },
    {
      "title": "web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf",
      "url": "https://web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf?TB_iframe=true&height=512.1&width=921.6"
    },
    {
      "title": "stat.cmu.edu/~cshalizi/dst/18/lectures/24/lecture-24.html",
      "url": "https://www.stat.cmu.edu/~cshalizi/dst/18/lectures/24/lecture-24.html"
    }
  ],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}