{
  "id": "numerical-differentiation",
  "title": "数值微分",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "数值微分利用函数求值或采样数据估计导数，在近似精度、舍入误差与噪声放大之间寻求平衡。",
  "category": "mathematics",
  "subcategory": "applied",
  "type": "concept",
  "aliases": [
    "数值求导"
  ],
  "generated_at": "2026-11-05",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/numerical-differentiation/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/numerical-differentiation/",
      "json": "https://aiwiki.page/en/numerical-differentiation.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "数值微分是根据函数在离散点上的取值，计算其导数近似值的方法。当导数的显式表达式无法获得、不便求值，或者不如直接从测量数据得到的估计值实用时，就会用到数值微分。作为数值分析的核心课题之一，数值微分包括有限差分公式、对插值函数和拟合曲线求导、谱方法，以及专门处理含噪数据的技术。其根本难点在于，微分会放大微小的变化：缩小采样点间距虽能提高近似精度，却也可能同时增大舍入误差或测量噪声的影响。"
    },
    {
      "heading": "基本有限差分公式",
      "text": "对于足够光滑的函数 \\(f\\)，它在 \\(x\\) 处的导数由差商的极限定义。数值微分用非零步长 \\(h\\) 下的计算代替这一极限。\n\n最简单的公式是前向差分：\n\n\\[D_h^+f(x)=\\frac{f(x+h)-f(x)}{h},\\]\n\n以及后向差分：\n\n\\[D_h^-f(x)=\\frac{f(x)-f(x-h)}{h}.\\]\n\n将采样值展开为泰勒级数，可得\n\n\\[D_h^+f(x) =f'(x)+\\frac{h}{2}f''(x)+O(h^2),\\]\n\n\\[D_h^-f(x) =f'(x)-\\frac{h}{2}f''(x)+O(h^2).\\]\n\n因此，两者都具有一阶截断误差：只要相关导数保持有界，其近似误差的主导项就与 \\(h\\) 成正比。这里用大O记号描述 \\(h\\) 趋于零时误差的渐近量级。\n\n中心差分使用两侧的采样值：\n\n\\[D_h^0f(x)=\\frac{f(x+h)-f(x-h)}{2h}.\\]\n\n这种对称布局消去了一阶误差主导项：\n\n\\[D_h^0f(x) =f'(x)+\\frac{h^2}{6}f'''(x)+O(h^4).\\]\n\n因此，它具有二阶精度。对于光滑函数，中心差分公式通常比一阶单侧差分公式更精确；但在无法取得一侧函数值的边界处，不能直接使用中心差分。\n\n一个二阶前向差分公式为\n\n\\[f'(x)\\approx \\frac{-3f(x)+4f(x+h)-f(x+2h)}{2h}.\\]\n\n高阶导数也可以用类似方法估计。二阶导数的标准中心差分公式为\n\n\\[f''(x)\\approx \\frac{f(x+h)-2f(x)+f(x-h)}{h^2},\\]\n\n其截断误差为 \\(O(h^2)\\)。这些公式也为求解微分方程的有限差分法提供了局部导数近似。"
    },
    {
      "heading": "差分模板与公式构造",
      "text": "差分模板是导数近似所使用的采样位置及其权重的集合。\\(m\\) 阶导数的一般近似公式具有如下形式：\n\n\\[f^{(m)}(x)\\approx \\frac{1}{h^m}\\sum_{j=0}^{n}a_j f(x+c_jh),\\]\n\n其中，\\(c_j\\) 指定采样点的偏移量，\\(a_j\\) 为无量纲权重。\n\n泰勒展开表明，在适当的光滑性假设下，若公式的各阶矩满足\n\n\\[\\sum_{j=0}^{n}a_jc_j^k= \\begin{cases} m!,&k=m,\\\\ 0,&0\\leq k\\leq m+p-1,\\quad k\\ne m. \\end{cases}\\]\n\n则该公式的误差为 \\(O(h^p)\\)。\n\n这些条件使公式对相应的低次多项式给出精确结果。增加采样点数，可以构造更高阶的公式。例如，五点中心差分模板给出\n\n\\[f'(x)\\approx \\frac{f(x-2h)-8f(x-h)+8f(x+h)-f(x+2h)} {12h},\\]\n\n其截断误差为 \\(O(h^4)\\)。\n\n另一种构造方式利用插值：构造通过各采样点的多项式，再在目标位置对该多项式求导。这种方法能自然地处理不等间距采样。对于互不相同的节点 \\(x_0,\\ldots,x_n\\)，将插值多项式写为\n\n\\[p(x)=\\sum_{j=0}^{n}f(x_j)\\ell_j(x),\\]\n\n其中 \\(\\ell_j\\) 为拉格朗日基多项式。于是\n\n\\[f^{(m)}(x_*)\\approx p^{(m)}(x_*) =\\sum_{j=0}^{n}f(x_j)\\ell_j^{(m)}(x_*).\\]\n\n形式上的高阶精度本身并不保证结果更好。较宽的差分模板可能跨越局部光滑性假设不再适用的区域，其权重也可能放大采样值中的误差。"
    },
    {
      "heading": "截断误差、舍入误差与步长",
      "text": "对计算机求值的函数进行微分时，主要有两类误差相互制约：\n\n- 截断误差：用有限公式代替极限运算所造成的误差。\n- 求值误差与舍入误差：由函数值不精确以及浮点运算引起的误差。\n\n如果每次函数求值的绝对误差具有典型量级 \\(\\delta\\)，一阶导数的差分公式通常会将该误差放大，放大倍数与 \\(1/h\\) 成正比。一个实用的近似误差模型为\n\n\\[E(h)\\approx Ah^p+\\frac{B\\delta}{h},\\]\n\n其中，\\(p\\) 为截断误差的阶数，\\(A,B\\) 取决于函数和差分模板。\n\n随着步长减小，第一项减小，第二项增大。当 \\(A\\) 和 \\(B\\) 均为正时，使该模型中的误差最小可得\n\n\\[h_{\\mathrm{opt}} \\approx \\left(\\frac{B\\delta}{pA}\\right)^{1/(p+1)}.\\]\n\n在常见的尺度假设下，如果 \\(\\delta\\) 与机器精度 \\(\\epsilon\\) 成正比，则特征步长满足以下标度关系：\n\n\\[h_{\\mathrm{opt}}\\propto \\begin{cases} \\epsilon^{1/2},&\\text{first-order differences},\\\\ \\epsilon^{1/3},&\\text{second-order central differences}. \\end{cases}\\]\n\n这些是标度规律，而不是普遍适用的步长选取规则。合适的有量纲步长还取决于输入、函数值和高阶导数的尺度。\n\n当 \\(h\\) 很小时，将两个几乎相等的函数值相减会发生消去，使这些值中已有的误差凸显出来。最终，\\(x+h\\) 的浮点表示甚至可能与 \\(x\\) 完全相同。因此，减小步长并不一定能得到更准确的导数。\n\n对于 \\(m\\) 阶导数，采样值中的扰动通常会按 \\(h^{-m}\\) 的量级放大。因此，高阶导数的计算尤其困难。这种敏感性是微分算法数值稳定性的核心问题。"
    },
    {
      "heading": "外推与自适应估计",
      "text": "理查森外推法通过消去已知的误差主导项来改进近似。若\n\n\\[D(h)=f'(x)+Ch^p+O(h^{p+r}),\\]\n\n则\n\n\\[R(h)= \\frac{2^pD(h/2)-D(h)}{2^p-1}\\]\n\n可消去 \\(Ch^p\\) 项。对于光滑函数，其一阶导数中心差分的展开式只含 \\(h\\) 的偶次幂，因此这种构造可将截断误差的阶数从二阶提高到四阶。\n\n反复外推可以从一系列不同步长的结果中得到高阶估计。自适应算法会比较这些估计值，评估它们的一致性，并在满足误差准则或进一步细化不再改善结果时停止。\n\n这些过程以所假设的误差展开式成立为前提。舍入误差、噪声、间断以及不光滑行为，都可能使估计结果无法进入预期的渐近区间。两个估计值相符，只能说明它们具有一致性，并不能普遍证明其准确性。"
    },
    {
      "heading": "含噪数据的微分",
      "text": "对于测量样本\n\n\\[y_j=f(x_j)+\\eta_j,\\]\n\n扰动 \\(\\eta_j\\) 不一定会随采样间距的减小而减小。因此，除非同时控制噪声，否则在更细的网格上，数值微分反而可能变得不可靠。\n\n例如，如果 \\(x-h\\) 和 \\(x+h\\) 处的误差相互独立，且均值均为零、方差均为 \\(\\sigma^2\\)，那么噪声对一阶导数中心差分估计的贡献具有如下方差：\n\n\\[\\operatorname{Var}\\!\\left( \\frac{\\eta_+-\\eta_-}{2h} \\right) =\\frac{\\sigma^2}{2h^2}.\\]\n\n这种增长反映了一个更深层的问题：在度量函数值的常用范数下，微分是一个无界运算。扰动\n\n\\[e(x)=\\delta\\sin(\\omega x)\\]\n\n的振幅为 \\(\\delta\\)，但其导数的振幅为 \\(\\delta\\omega\\)。因此，任意微小但快速振荡的扰动，都可能造成很大的导数误差。从含噪观测中恢复导数，因而常被视为一个逆问题。\n\n常用方法包括：\n\n- 局部多项式拟合：在某个邻域内用最小二乘法拟合低次多项式，再对拟合的多项式求导。该邻域起到平均作用，而不是要求精确插值通过每个含噪数据点。\n- 平滑样条：拟合光滑曲线，同时对过度粗糙施加惩罚，再对拟合曲线求导。\n- 正则化导数恢复：在与观测数据的一致性和光滑性或结构性惩罚之间取得平衡，以估计导数。\n- 频域滤波：在微分之前或过程中，抑制分辨不足的高频分量。\n\n这些方法引入了正则化和偏差-方差权衡。更强的平滑能够减轻噪声放大，却也可能削弱真实的快速变化。平滑尺度与采样间距并不相同，但两者会相互影响。"
    },
    {
      "heading": "谱微分",
      "text": "对于光滑周期函数，可以利用傅里叶系数计算导数。若\n\n\\[f(x)=\\sum_{k=-\\infty}^{\\infty} \\hat f_k e^{2\\pi ikx/L},\\]\n\n则在允许逐项求导的条件下，\n\n\\[f'(x)=\\sum_{k=-\\infty}^{\\infty} \\frac{2\\pi ik}{L}\\hat f_k e^{2\\pi ikx/L}.\\]\n\n对于采样数据，离散傅里叶变换给出有限三角表示的系数。求导时，将每个系数乘以相应的频率因子；再通过逆变换，得到各采样点上的导数值。快速傅里叶变换使这一过程能够高效实现。\n\n对于光滑周期函数，谱微分可以非常迅速地收敛；在适当的解析性假设下，还可实现指数收敛。它的局限包括高频噪声放大、采样误差与混叠误差，以及将非周期函数表示为周期函数时产生的边界伪影。非周期谱方法则采用其他基函数，包括合适的正交多项式。"
    },
    {
      "heading": "复步长微分",
      "text": "复步长微分用于估计实值函数的导数，要求该函数具有适当的解析函数延拓，且能够在复数自变量处求值。对于实数 \\(x\\)，\n\n\\[f(x+ih) =f(x)+ihf'(x)-\\frac{h^2}{2}f''(x) -\\frac{ih^3}{6}f'''(x)+\\cdots,\\]\n\n因此\n\n\\[f'(x)\\approx\\frac{\\operatorname{Im}f(x+ih)}{h},\\]\n\n其截断误差为 \\(O(h^2)\\)。\n\n与普通差分不同，这个公式不需要将相近的实函数值相减。因此，在兼容的实现中，它避开了有限差分中主要的消去机制，允许使用非常小的步长。\n\n这种方法的适用范围有限。绝对值、复共轭、提取实部等运算，以及某些依赖分支选择的计算，都可能破坏所需的解析性质。数值代码还必须在整个求值过程中保留微小的虚部。"
    },
    {
      "heading": "多元函数的导数与应用",
      "text": "对于标量函数 \\(f:\\mathbb{R}^n\\to\\mathbb{R}\\)，有限差分通过逐个扰动坐标来估计梯度的各个分量。对于向量值函数 \\(F:\\mathbb{R}^n\\to\\mathbb{R}^m\\)，同样的过程可用于估计其雅可比矩阵的各列：\n\n\\[J_{:,j}(x)\\approx \\frac{F(x+he_j)-F(x)}{h},\\]\n\n其中，\\(e_j\\) 是第 \\(j\\) 个坐标向量。沿给定方向施加扰动，可以在不构造完整矩阵的情况下估计乘积 \\(Jv\\)。\n\n在已获得基准点函数值之后，前向差分对每个输入坐标还需额外求值一次；中心差分通常需要两次。若已知稀疏结构，有时可通过精心选择同时施加的扰动来降低计算成本。\n\n应用领域包括数学优化、敏感性分析、软件中的导数校验、根据实验观测估计变化率，以及偏微分方程的离散化。\n\n数值微分不同于自动微分。自动微分使用链式法则在程序中传播导数，而不是根据相隔有限距离的输入值估计导数。它避免了有限差分的截断误差，但需要能够访问合适的计算表示。对于黑箱函数和观测数据，数值微分仍然很有用。"
    },
    {
      "heading": "结果的解读与局限",
      "text": "数值导数是特定分辨率下的估计，不能代替对可微性的判定。在尖角、间断点或未被充分分辨的过渡区域，即使相应的经典导数不存在，有限公式仍可能返回一个数值。\n\n例如，对于 \\(f(x)=|x|\\)，在零点处的中心差分对任意正数 \\(h\\) 都等于零，尽管该函数在该处并不存在导数。单侧差分则能揭示两侧斜率不一致。\n\n因此，可靠性不仅取决于公式的形式阶数。相关因素还包括局部光滑性、采样点的几何分布、边界附近函数值的可获取性、函数求值误差、噪声水平，以及导数具有实际意义的物理或计算尺度。"
    }
  ],
  "links": [
    "derivative",
    "numerical-analysis",
    "taylor-series",
    "big-o-notation",
    "finite-difference-method",
    "interpolation",
    "polynomial",
    "floating-point-arithmetic",
    "numerical-stability",
    "variance",
    "inverse-problem",
    "least-squares",
    "regularization",
    "bias-variance-tradeoff",
    "discrete-fourier-transform",
    "fast-fourier-transform",
    "analytic-function",
    "gradient",
    "jacobian-matrix",
    "mathematical-optimization",
    "sensitivity-analysis",
    "partial-differential-equation",
    "automatic-differentiation"
  ],
  "sources": [],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}