龙格–库塔方法是一类用于数值求解常微分方程的算法。它们按一系列时间步推进近似解,在每一步内多次计算方程右端项,并将所得结果加以组合。这些中间计算称为“级”,使该方法无需显式计算直接使用泰勒展开所需的高阶导数,就能达到较高的精度。
这一方法族既包括简单的显式公式,如经典的四级四阶方法,也包括适用于快速衰减过程以及具有相差悬殊的时间尺度的方程的隐式公式。嵌入式公式对可提供误差估计,用于自动选择步长。另一些方法则专门用于保持辛结构、单调性或强阻尼性等性质。
龙格–库塔方法在数值分析中占据核心地位,因为它们兼具较为统一的数学描述和很强的实际应用灵活性。其理论将逼近阶、非线性代数方程、数值稳定性以及动力系统的几何性质联系起来;其应用涵盖轨道力学、化学动力学,以及空间离散化后偏微分方程的时间积分等领域。
初值问题与历史发展
标准问题是一个初值问题:
其中, 可以是标量,也可以是 中的向量。数值方法构造近似值 ,以逼近 。步长为 ,既可以固定不变,也可以在计算过程中调整。通常以时间作为自变量,但当自变量表示距离或其他量时,同样的数学方法仍然适用。
最简单的出发点是欧拉法:
它用步起点处的切线来近似这一步内的解曲线。对于足够光滑的方程,从精确解出发推进一步所产生的误差与 成正比,而在固定区间上累积的误差通常与最大步长成正比。这两种误差之间的区别至关重要:局部误差中 的幂次,在误差经过许多步累积后,通常会降低一次。
提高精度的一条直接途径是使用解的泰勒级数。然而, 的逐次时间导数会涉及越来越复杂的 的导数。即使是二阶导数,也需要计算
对于大型方程组,构造并计算相应的高阶表达式可能代价高昂。龙格–库塔法则通过在精心选取的中间状态处计算 ,间接获取所需信息。其系数经过选取,使所得展开式在指定阶数以内与精确解的展开式一致。
卡尔·龙格于1895年提出了一种重要的构造方法。卡尔·霍因在1900年、威廉·库塔在1901年的工作,推动了更广泛的高阶公式体系的建立。人们熟悉的四级四阶格式便源于这一早期发展过程。它既易于实现,又具有良好的精度,因此早在现代自适应求解器普及之前,就已成为标准的计算技术。
20世纪,研究从个别公式扩展到关于阶数和稳定性的系统理论。约翰·C. 布彻自20世纪60年代起开展的工作,为方法的表示及其阶条件的系统整理提供了影响尤为深远的框架。埃尔温·费尔贝格以及后来的其他研究者提出的嵌入式公式,使变步长实现变得实用而高效。此后,隐式方法、配点构造和结构保持方法进一步拓展了这一方法族,使其不再局限于经典的显式格式。
龙格–库塔法在实际应用中的一个重要特点是,它属于单步法:下一个近似值取决于当前状态和本步各级的计算结果,而不依赖于此前若干个解值构成的指定历史信息。因此,启动、重新启动和调整步长都相对直接。
阶段、系数与布彻表
一个含 个阶段的龙格–库塔方法具有如下通式:
随后按下式更新:
其中, 是阶段斜率, 指定阶段时刻, 决定中间状态, 则是在最终更新中赋予各斜率的权重。每个斜率都是与 维数相同的向量。
这些系数通常用布彻表表示:
记 、、,便可用一个紧凑的代数对象完整描述一种方法。通常采用的内部一致性关系为
这一关系保证,各阶段时刻与将同一方法应用于附加方程 时所得的时刻一致。
当 对所有 成立时,该方法为显式方法,此时 是严格下三角矩阵。因此,各阶段可以依次计算:第一阶段可直接求得,第二阶段利用第一阶段的结果,依此类推。整个过程无须求解含有未知阶段斜率的方程。因此,阶段数大致反映了每一步对方程右端函数求值的次数,不过复用阶段结果有时可以降低这一开销。
如果某个阶段依赖于自身或后续阶段,该方法就是隐式方法。一般的隐式格式需要联立求解 个非线性方程。对角隐式方法的 为下三角矩阵,因此可以逐个求解各阶段,但每个对角元非零的阶段仍可能需要求解非线性方程。单对角隐式方法在各隐式阶段使用相同的非零对角系数,这有助于复用线性代数运算的结果。
这些公式也可以用阶段状态表示:
这种表示往往更便于隐式求解器的实现和理论论证。它清楚地表明,阶段通常只是一个辅助性的数值状态,本身并不一定是在其指定时刻对精确解的准确近似。
龙格–库塔方法的系数不一定为正数,各阶段时刻也不一定都位于当前时间步内。这些性质取决于方法的设计目标。针对精度、稳定性、正性、低存储需求或几何结构保持而优化的公式,尽管具有相同的通用表示形式,其系数的分布模式却可能大不相同。
精度、收敛性与阶条件
如果从精确值 出发时,龙格–库塔方法的单步误差满足
则称该方法具有 阶精度,其中 表示数值更新映射。在适当的光滑性和利普希茨连续性假设下,这意味着采用均匀步长时,在固定的有限区间上,全局误差为 阶。这里的记号采用 趋于零时的大O记号估计。
使用这些术语时需要注意。有些文献将单步差值本身称为局部截断误差,另一些则将其除以 ,使所述的幂次相差一。一旦明确采用的约定,其背后的阶数结论就是相同的。全局精度还取决于扰动如何传播,因此,仅凭局部误差很小,并不能保证在实际使用的步长下获得足够的精度。
将龙格–库塔单步计算的展开式与精确解的展开式相匹配,可以得到关于 、 和 的代数条件。对于内部相容的方法,达到三阶及以下各阶精度所需的条件为
以及
达到四阶还需满足
前几项条件与高精度数值求积所需的条件相似。其余条件的出现,是因为计算 时所用的状态本身也是近似值。
条件的数量随阶数迅速增长。布彻利用有根树对这些条件进行了系统整理,树的分支表示向量场的嵌套导数。不同的树区分了诸如 和 这样的表达式;对于非线性方程,这些表达式通常不能合并。B级数将精确流或数值方法表示为由这些基本微分项构成的形式级数。这为推导和比较各种方法提供了一套系统的语言。
仅用标量方程 进行检验,不足以确定方法的完整阶数。该方程能够检验链状的导数项,却无法检验非线性向量场产生的独立分支项。因此,一个公式即使能在某个阶次上匹配指数函数的展开,也未必对任意非线性系统都具有相同阶数。
对于显式龙格–库塔方法,阶数不能超过级数,但并非每一阶都能达到二者相等。特别是,显式五阶方法至少需要六级。因此,提高阶数并不是简单地多计算一次斜率。
形式阶数还以充分的光滑性为前提,并假定计算处于主导误差项占优势的渐近范围内。间断、刚性分量、随时间变化的边界条件以及舍入误差,都可能掩盖或降低实际观测到的收敛阶。级阶,即内部各级的精度,也可能产生独立影响;尤其是在刚性问题中,较低的级阶可能导致降阶现象。
经典显式公式
这一方法族中最广为人知的是经典的四级四阶方法,通常称为经典 RK4:
它在步长区间的起点计算一次方程右端项,在中点采用不同的状态近似值计算两次,再在终点计算一次。在通常的正则性假设下,其局部误差为 ,全局误差为 。
举一个简单的例子,考虑 、,取 。各级斜率为
更新后得到
而精确值为 。对于这一方程,RK4 相当于将当前值乘以指数函数的四次泰勒多项式:
这个例子展示了该方法的精度,不过,要在非线性问题中达到相应阶数,还需要满足上文所述的附加条件。
二阶方法提供了计算成本更低的选择。显式中点公式为
Heun 两级方法则先用欧拉法进行预测,再取起点斜率与预测终点斜率的平均值:
两者都是二阶方法,但误差常数和内部行为有所不同。
更一般地,由
可得一个两级二阶方法族,其中 。显式中点法对应于 ,Heun 公式对应于 ,常用的两级 Ralston 公式则对应于 。这个方法族说明,阶条件并不能唯一确定一种方法:剩余的自由度可以用来优化特定的误差度量或系数性质。
RK4 也并非唯一的四级四阶格式。库塔八分之三法采用不同的级节点和权重,但能达到相同的阶数。对于标量线性方程,这些方法具有相同的稳定性多项式,但其非线性误差项有所不同。
在计算工作量需要可预测、调度需要简单的场景中,例如某些实时仿真,固定步长显式方法仍然很有用。不过,经典 RK4 并不自带误差估计。步长看起来很小,本身并不能证明计算已达到指定精度;当解的时间尺度变化较大时,嵌入式自适应方法往往更为经济。
嵌入式方法对与自适应步长控制
嵌入式龙格–库塔方法对利用同一组阶段构造两个近似值:
这两个权重向量满足不同阶数的阶条件。两者之差为
它为局部误差的主导项提供了一个可计算的估计,而无须重新计算整个步。
对于阶数分别为 和 的方法对,这一差值通常为 。它主要估计的是低阶公式的误差,而不是高阶公式通常更小的 局部误差。尽管如此,它仍为步长控制提供了实用且计算成本低的指标。求解器常使用高阶近似值推进计算,这种做法通常称为局部外推。
著名的费尔伯格六阶段四阶/五阶方法对,以及多尔曼–普林斯七阶段五阶/四阶方法对,都是重要的例子。多尔曼–普林斯公式发表于1980年,其设计特别关注五阶解的误差。该方法最后一个阶段的导数可以用作下一个被接受步的第一阶段导数。这种首尾相同性质,即 FSAL 性质,减少了连续接受步期间对方程右端函数的新求值次数。
求解器必须先对误差进行尺度归一化,才能将其与容差比较。一种常用的加权均方根度量为
绝对容差用于控制接近零的分量,而相对容差则根据分量的大小对误差进行归一化。当各变量具有不同的单位或固有尺度时,为各分量分别设置容差十分重要。另一些实现使用最大范数,而不是平均型范数。
当 时,通常接受试算步。如果误差估计按 的规律变化,基本的控制器会建议采用
其中 为安全因子。通过限制步长增大和缩小的幅度,可以避免突变。比例–积分控制器还会利用先前的误差估计,减少步长在过大与过小之间的振荡。
若试算步被拒绝,则从最后一个被接受的状态重新计算。步的接受判据控制的是局部误差的估计值,并不构成最终全局误差的严格界限。快速变化、不连续性和不稳定的动力学行为,都可能使局部误差与累积误差之间的关系变得复杂。
自适应求解器通常提供稠密输出,即在每个被接受步的内部构造连续的多项式近似。这样既能在指定时刻输出结果,又能准确定位事件,而无须让每个输出时刻都恰好落在步的边界上。插值公式有其自身的阶数,设计时必须与所采用的积分器保持一致。
绝对稳定性与刚性方程
精度描述的是当步长趋于零时,一种方法逼近微分方程的准确程度。数值稳定性关注的是方法如何传播扰动,以及如何响应衰减或增长的模态。标准的标量测试问题为
其中 。龙格–库塔方法给出
其中
这里, 是单位矩阵, 是所有分量均为一的向量。函数 称为稳定函数。
绝对稳定域是使 成立的复数 的集合。对于显式方法, 是多项式,因此其稳定域不可能包含整个复平面的左半平面。经典四阶龙格–库塔法(RK4)的稳定函数为
它在负实轴上的稳定区间大致从 延伸到 。因此,对于 为绝对值很大的负数的衰减模态,即使其振幅在物理上已可忽略不计,也可能迫使显式方法采用极小的步长。
这种现象引出了刚性微分方程的概念。刚性有几种相互关联的数学刻画,但从实际计算的角度看,它通常意味着稳定性对显式方法的限制远比精度要求严格。同时包含快速反应和慢速反应的化学反应系统,以及经过空间离散化的扩散方程,都是典型例子。
如果一种方法的稳定域包含整个闭左半平面(边界上的极点按惯例另行处理),则称其为 A 稳定的。后向欧拉法是一种单级隐式龙格–库塔方法,其稳定函数为
且具有 A 稳定性。它还具有 L 稳定性:除了满足 A 稳定性外,当左半平面内的 趋于无穷时,其稳定函数趋于零。这一更强的性质能够抑制衰减极快的模态。
隐式中点法的稳定函数为
它是 A 稳定的,但不是 L 稳定的,因为沿负实轴趋于无穷远时, 趋于 。因此,刚性很强的分量可能以正负交替的数值残余形式持续存在,而不会迅速消失。在耗散问题中,这种现象可能并不理想;但在保守动力学中,同样这种不引入人工阻尼的特性却很有价值。
对于方程组,线性化方程的特征值可为稳定性判断提供初步依据。但当矩阵为非正规矩阵、系数随时间变化,或动力学为非线性时,特征值并不能反映全部情况。即使最终的稳定函数看起来令人满意,内部各级的放大效应也可能放大舍入误差或残差误差。因此,稳定性分析并不止于绘制标量稳定域。
隐式方法与配点法
隐式龙格–库塔方法以较高的单步计算代价换取更强的稳定性。对于维数为 的系统,其级方程通常构成一个维数为 的耦合非线性问题。当显式方法所需的步长小到难以承受时,这些额外计算可能是值得的。
配点法提供了一种系统的构造方式。在一个时间步内,选取多项式 ,使其在指定节点 处满足
若以 表示这些节点在 上对应的拉格朗日基多项式,则龙格–库塔系数为
因此,同一个插值构造同时确定了内部各级和最终的步进结果。
不同的节点选择产生了几个重要的方法族。 级高斯–勒让德配点方法的阶数为 ,且具有 A 稳定性。它们还具有一些几何性质,因而适用于保守系统。其中的单级方法就是隐式中点法。 级 Radau IIA 方法的阶数为 ,其节点包含右端点,且具有 L 稳定性。这类方法在刚性问题的数值积分中尤为重要。Lobatto 配点方法的节点包含左右两个端点,在 时阶数为 。
Radau IIA 方法具有刚性精确性: 的最后一行等于 ,且最后一级位于端点。因此,最后一级的状态就是新的解值。这一性质对刚性问题很有用,也适用于某些面向微分–代数系统的扩展,因为在这些系统中,端点处与约束的一致性十分重要。
非线性级方程通常使用牛顿法或简化牛顿迭代来求解。若 是雅可比矩阵 的近似,则简化迭代涉及如下形式的分块矩阵:
其中, 表示克罗内克积。高效的实现会利用 的结构、矩阵的稀疏性以及可复用的矩阵分解。非线性迭代的终止容差必须足够严格,以免各级方程求解不充分所产生的误差主导积分误差。
对角隐式方法将耦合问题化为一系列逐级求解的问题。单对角隐式格式通常可以在各级之间复用 的矩阵分解。全隐式配点方法每级可能实现更高的阶数,而对角隐式方法往往更容易实现,每次非线性迭代的计算代价也更低。
因此,衡量计算代价时不能只看级数。雅可比矩阵的构造、矩阵分解、非线性迭代的收敛情况以及被接受的步数都会影响总成本。当隐式方法允许采用的较大稳定步长足以抵消这些额外的代数运算时,它就能体现出效率优势。
几何结构保持与非线性稳定性
在长时间积分中,保持动力系统的定性结构可能与减小局部误差同样重要。在哈密顿力学中,系统的流保持一种辛几何结构。一般的高阶方法未必保持这种结构,即使短时间误差很小,也可能在长期积分中产生系统性的偏差。
当龙格–库塔方法的系数满足
时,该方法是辛的。高斯配点法满足这一条件。经典显式龙格–库塔方法则不满足:对显式方法取 ,便得到 ,这将迫使所有权重均为零。不过,在更广泛的分区与分裂框架中,仍然存在显式辛格式,例如为可分离哈密顿量设计的格式。
辛性并不意味着精确保持原系统的能量。相反,在适当条件下,采用足够小的固定步长时,后向误差分析可将数值轨迹与某个邻近的修正哈密顿量所对应的精确流联系起来。这往往能够解释,为何能量误差在很长的时间区间内保持有界并呈振荡变化,而不是出现系统性漂移。通常,依赖于状态的自适应步长选择并不能保持同样的辛性。
龙格–库塔方法在保持不变量方面也有其特点。如果线性量 满足 处处成立,那么在精确算术下,每次龙格–库塔更新都会保持 不变,因为各阶段的斜率对该量的贡献均为零。在相应假设下,辛龙格–库塔方法能够保持二次不变量。精确保持一般的非线性能量则是另一项要求,并无保证。
另一个设计目标是强稳定性保持,这在离散化的守恒律中尤为重要。假设当 时,前向欧拉法在某个指定的凸泛函下具有非扩张性。如果一种方法可以表示为前向欧拉步的适当凸组合,那么在 时,它就能继承这一性质,其中 是该方法的强稳定性保持系数。
对于自治方程 ,一个广泛使用的三阶方法可写为
这种凸组合形式将前向欧拉法的某种适用的单调性传递给整个方法。此类论证可以用于建立全变差界或正性保证,但前提是空间离散化与步长限制满足所需假设。
对于隐式方法,代数稳定性提供了另一条获得非线性稳定性的途径。它要求权重非负,且元素为
的矩阵为半正定矩阵。在适当的耗散方程中,这一条件可用于建立收缩性结论。辛性、代数稳定性、强稳定性保持和 L 稳定性体现了不同的数学目标;它们并非可以互换的标签,也不能据此认定某种方法在所有方面都更优。
应用、实现与计算限制
龙格–库塔方法常在线方法中充当时间积分器。线方法首先对偏微分方程进行空间离散,得到一个大型常微分方程组
空间近似可以采用有限差分法、有限元法或其他离散方法。随后,时间积分器独立于空间离散的构造来控制时间误差和稳定性,不过最终的数值解由空间与时间这两种离散共同决定。
对于热方程,空间离散通常会引入绝对值很大的负特征值,其绝对值按 的量级增长。因此,常规显式龙格–库塔方法通常要求 。对于平流方程的离散,典型限制则是 ,其中的常数取决于波速以及空间格式与时间格式的组合。因此,网格加密可能使原本计算成本较低的显式方法变得十分昂贵。
隐式–显式方法处理的是可拆分为如下形式的方程:
加性龙格–库塔构造对刚性相对较弱的部分 采用显式处理,对刚性部分 采用隐式处理。例如,输运项可以显式处理,而扩散项或快速反应项则隐式处理。两组系数必须满足耦合的阶条件;将两个各自具有一定精度阶的格式组合起来,并不能自动得到相同阶数的方法。
在大规模模拟中,内存开销可能与算术运算开销同样重要。直接实现一个 级方法需要存储若干个长度为 的向量。低存储龙格–库塔公式通过重新组织计算或专门设计计算过程,只需使用少量这样的向量。这既能减少内存数据传输,也能提升现代处理器上的运行性能。其代价可能包括增加级数、改变稳定性特征,或在内部更强烈地放大扰动。
不连续点和事件需要特殊处理。如果方程右端在某个已知时刻发生突变,求解器可以在该时刻结束当前步,并使用新方程重新启动。如果事件由 定义,则可以利用稠密输出和标量求根算法,在一个时间步内定位事件。状态重置后,缓存的斜率和误差历史信息可能不再有效。即使方法的形式阶很高,也仍须妥善处理这些变化。
当步长极小时,浮点运算会限制精度的进一步提升。舍入会影响各级结果的组合、时间更新以及隐式方程的求解;严重的相消可能放大其影响。在混沌系统中,扰动也可能迅速增长,因此,局部积分精确并不意味着单条轨迹能够无限期地保持一致。此时,相关诊断可能更应着眼于不变统计特征或守恒量。
数值验证通常综合采用步长加密研究、容差收紧、与精确解或独立计算所得解的比较,以及物理约束检查。对于处于渐近收敛区间内的 阶固定步长方法,将步长减半应使占主导地位的全局误差大约缩小至原来的 分之一。偏离这一规律可能表明解的光滑性不足、存在空间误差、出现与刚性有关的阶数降低、非线性求解精度要求过松,或计算已由舍入误差主导。