{
  "id": "logit",
  "title": "Logit",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "Logit 是事件优势的自然对数，将零与一之间的概率映射到实数轴。",
  "category": "mathematics",
  "subcategory": "probability-statistics",
  "type": "concept",
  "aliases": [
    "对数优势",
    "Logit函数",
    "Logit变换"
  ],
  "generated_at": "2026-10-04",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/logit/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/logit/",
      "json": "https://aiwiki.page/en/logit.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "Logit 是一种函数，将满足 \\(0<p<1\\) 的概率 \\(p\\) 转换为其优势的自然对数：\n\n\\[\\operatorname{logit}(p)=\\ln\\!\\left(\\frac{p}{1-p}\\right).\\]\n\n它将开区间 \\((0,1)\\) 映射到全体实数，其反函数是标准的逻辑斯蒂函数。这一变换是逻辑回归的核心。(docs.scipy.org)"
    },
    {
      "heading": "定义与解释",
      "text": "概率为 \\(p\\) 的事件，其**优势**为 \\(p/(1-p)\\)，即事件发生的概率除以事件不发生的概率。对优势取自然对数，就能将这一正值转换为取值不受限制的实数量。优势与概率是不同的量；例如，概率为 \\(0.8\\) 时，对应的优势为 \\(4\\)，也可写作 \\(4:1\\)，而 logit 值为 \\(\\ln 4\\)。(online.stat.psu.edu)\n\n一些具有代表性的数值如下：\n\n概率 \\(p\\) | 优势 \\(p/(1-p)\\) | Logit 值\n\\(0.25\\) | \\(1/3\\) | \\(-\\ln 3\\approx-1.099\\)\n\\(0.50\\) | \\(1\\) | \\(0\\)\n\\(0.75\\) | \\(3\\) | \\(\\ln 3\\approx1.099\\)\n\n因此，logit 值为负表示概率小于二分之一，logit 值为正则表示概率大于二分之一。这些数值可直接由定义得出。(docs.scipy.org)\n\n作为实值函数，logit 在 \\(p=0\\) 和 \\(p=1\\) 处没有定义，但其极限为\n\n\\[\\lim_{p\\to0^+}\\operatorname{logit}(p)=-\\infty, \\qquad \\lim_{p\\to1^-}\\operatorname{logit}(p)=+\\infty.\\]\n\n数值实现可能会在这两个端点返回相应的无穷大值。(docs.scipy.org)"
    },
    {
      "heading": "反函数与数学性质",
      "text": "由 \\(z=\\operatorname{logit}(p)\\) 解出 \\(p\\)，可得其反函数：\n\n\\[p=\\sigma(z)=\\frac{1}{1+e^{-z}} =\\frac{e^z}{1+e^z}, \\qquad z\\in\\mathbb R.\\]\n\n这个函数也称为逻辑斯蒂 sigmoid 函数或 expit。Logit 将概率转换为对数优势，而 sigmoid 则将对数优势转换回概率。(docs.scipy.org)\n\nLogit 的导数为\n\n\\[\\frac{d}{dp}\\operatorname{logit}(p) =\\frac{1}{p(1-p)}>0.\\]\n\n因此，它是严格递增的。在接近任一端点时，导数都会无限增大，所以概率在接近零或一时的微小变化，可能对应对数优势的较大变化。(statsmodels.org)\n\n通过对定义进行代数运算，还可得到两个性质：\n\n\\[\\operatorname{logit}(1-p)=-\\operatorname{logit}(p),\\]\n\n以及\n\n\\[\\operatorname{logit}(p_1)-\\operatorname{logit}(p_2) =\\ln\\!\\left( \\frac{p_1/(1-p_1)}{p_2/(1-p_2)} \\right).\\]\n\n第一个性质体现了交换事件与其补事件时的对称性。第二个性质表明，两个 logit 值之差等于优势比的对数。(docs.scipy.org)"
    },
    {
      "heading": "逻辑回归",
      "text": "二元逻辑回归通过下式对结果 \\(Y=1\\) 的条件概率建模：\n\n\\[\\operatorname{logit}\\!\\bigl(P(Y=1\\mid x)\\bigr) =\\beta_0+\\beta_1x_1+\\cdots+\\beta_kx_k.\\]\n\n等式右侧是线性预测子。对其应用 logit 的反函数后，只要预测子取值有限，得到的拟合概率就严格位于零与一之间。该模型的线性关系体现在对数优势上，而非概率上。(online.stat.psu.edu)\n\n在这个加性模型中，保持其他预测变量不变，将 \\(x_j\\) 增加一个单位，会使对数优势变化 \\(\\beta_j\\)，从而使优势乘以 \\(e^{\\beta_j}\\)。这并不意味着概率的变化量恒定：概率的变化量取决于线性预测子的初始值。(online.stat.psu.edu)"
    },
    {
      "heading": "机器学习中的 logits",
      "text": "在机器学习中，尤其是在人工神经网络中，logits 也指转换为概率之前的实值分数。在二元分类中，将分数 \\(z\\) 输入 sigmoid 函数后，有\n\n\\[z=\\operatorname{logit}(\\sigma(z)).\\]\n\n因此，当对应的概率是 sigmoid 的输出时，这种用法与数学定义完全一致。(tensorflow.org)\n\n对于互斥的多个类别，这个术语的含义更为宽泛。分数 \\(z_1,\\ldots,z_K\\) 通常称为 logits，并通过Softmax函数转换为概率：\n\n\\[p_i=\\frac{e^{z_i}}{\\sum_{j=1}^{K}e^{z_j}}.\\]\n\n分数 \\(z_i\\) 通常并不等于二元 logit 值 \\(\\ln[p_i/(1-p_i)]\\)。通过代数消去可得\n\n\\[z_i-z_j=\\ln\\frac{p_i}{p_j}.\\]\n\n给所有分数加上同一个常数，不会改变任何类别的概率。当只有两个类别时，差值 \\(z_1-z_2\\) 等于 \\(\\operatorname{logit}(p_1)\\)。(docs.pytorch.org)"
    },
    {
      "heading": "损失计算与数值稳定性",
      "text": "对于二元目标 \\(y\\in\\{0,1\\}\\) 和预测概率 \\(p=\\sigma(z)\\)，二元交叉熵损失函数可直接用 logit 表示：\n\n\\[\\ell(z,y) =-y\\ln p-(1-y)\\ln(1-p) =\\ln(1+e^z)-yz.\\]\n\n一个等价且数值稳定的形式为\n\n\\[\\ell(z,y) =\\max(z,0)-yz+\\ln\\!\\left(1+e^{-|z|}\\right).\\]\n\n这一形式避免了对很大的正数进行指数运算。(tensorflow.org)\n\n直接由 logits 计算损失，还能避免分别计算 sigmoid 概率及其对数时出现的某些数值稳定性问题。为此，PyTorch 等库提供了将 sigmoid 与交叉熵计算合并的运算。(docs.pytorch.org)"
    }
  ],
  "links": [
    "mathematical-function",
    "probability",
    "real-number",
    "logistic-function",
    "logistic-regression",
    "odds",
    "natural-logarithm",
    "inverse-function",
    "derivative",
    "odds-ratio",
    "conditional-probability",
    "machine-learning",
    "artificial-neural-network",
    "softmax-function",
    "cross-entropy",
    "loss-function",
    "numerical-stability"
  ],
  "sources": [
    {
      "title": "scipy.special.logit — SciPy Manual",
      "url": "https://docs.scipy.org/doc/scipy/reference/generated/scipy.special.logit.html"
    },
    {
      "title": "statsmodels.genmod.families.links.Logit.deriv",
      "url": "https://www.statsmodels.org/dev/generated/statsmodels.genmod.families.links.Logit.deriv.html"
    },
    {
      "title": "CrossEntropyLoss — PyTorch documentation",
      "url": "https://docs.pytorch.org/docs/stable/generated/torch.nn.CrossEntropyLoss.html"
    },
    {
      "title": "tf.nn.sigmoid_cross_entropy_with_logits — TensorFlow",
      "url": "https://www.tensorflow.org/api_docs/python/tf/nn/sigmoid_cross_entropy_with_logits?authuser=131"
    },
    {
      "title": "BCEWithLogitsLoss — PyTorch documentation",
      "url": "https://docs.pytorch.org/docs/stable/generated/torch.nn.BCEWithLogitsLoss.html?highlight=criterion"
    }
  ],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}