推理引擎是一种软件组件,通过对事实、规则或计算模型执行推理过程,产生结论或输出。在经典人工智能中,这个术语通常指专家系统中基于显式知识库进行推理的组件。在现代机器学习中,它也指执行已训练模型的软件。这两种含义都涉及将已有的表示应用于新输入,但其机制和所能提供的保证有很大差异。
经典架构
在符号人工智能中,推理引擎将推理过程与所处理的领域知识分离。例如,修改一条关于设备故障的规则时,无须重写选择和应用规则的通用机制。
典型的基于规则的系统包含:
- 知识库:保存规则及其他相对稳定的领域知识。
- 工作内存:保存当前案例的事实和中间结论。
- 推理引擎:将事实与规则条件进行匹配,并控制执行哪些适用规则。
- 接口:供用户或其他软件提供观测信息并请求结果。
- 解释模块:在系统支持的情况下,记录哪些事实和规则促成了某个结论。
这些是概念上的划分,并非必须遵守的软件边界。有些系统将规则和事实存放在一起,另一些系统则将推理功能与数据库或应用服务集成。
一种常见的表示方式是产生式规则,通常写作“如果满足条件,则得出结论或执行动作”。例如:
变量 可以与某台具体机器匹配。如果该机器同时满足两个条件,这条规则就适用。规则的后件可能只是向工作内存添加一项建议,而不是直接执行外部动作。
这种区别很重要:有些规则引擎推导命题,另一些则执行过程、修改记录或触发工作流。能够产生动作的规则系统不一定是逻辑定理证明器。
推理策略
前向链推理
前向链推理是一种数据驱动的推理方式。引擎从已有事实出发,找出条件得到满足的规则,并执行选定的规则。新确立的事实可能使更多规则变得适用。
简化的执行循环如下:
- 将规则条件与工作内存中的内容进行匹配。
- 收集适用的规则实例。
- 根据控制策略选择一个或多个实例。
- 执行这些实例的后件。
- 重复上述步骤,直至满足停止条件。
例如,“传感器A报告过热”和“传感器A监测电机B”这两个事实,可以支持“电机B过热”这一结论。该结论又可以进一步触发维护警报。
当新输入的观测信息需要触发相应结果、许多潜在结论都与任务相关,或者系统需要随着事实变化而维护推导信息时,前向链推理很有用。但如果它推导出大量与某项具体查询无关的事实,也会造成不必要的计算。
后向链推理
后向链推理是一种目标驱动的推理方式。引擎从待求的结论出发,搜索能够确立该结论的规则。这些规则的条件成为子目标,再通过已知事实进行核查,或借助更多规则继续求解。
为了判断某台机器是否需要检查,引擎可能先找到一条检查规则,然后再确认是否有电以及电机是否停止。它无须探索与其他部件有关的无关规则。
后向链推理在逻辑编程中占有重要地位。Prolog使用结合合一与回溯的目标导向执行方式,不过,其行为也取决于子句顺序、搜索策略和过程性特性。不恰当的规则顺序或递归依赖可能导致搜索无法终止,即使采用另一种搜索策略就能找到答案。
混合策略
有些系统结合前向推理和后向推理。前向处理可以维护经常需要的结论,后向处理则用于回答具体查询。另一些引擎使用与对象、约束或专用推理模块关联的过程。
策略选择会影响响应速度、内存消耗以及无关推理的数量。前向链推理和后向链推理都不是在所有情况下更优的选择。
匹配与执行控制
一条规则可以用多种方式与同一组事实匹配。例如,一条涉及相连部件对的规则,可能针对每一对符合条件的部件生成一个独立的适用实例。因此,引擎必须管理的是规则实例,而不只是规则定义。
当多个实例都适用时,引擎会采用冲突消解策略。常见的判断依据包括:
- 显式指定的规则优先级。
- 所涉及事实的新近程度。
- 规则条件的具体程度。
- 固定顺序或由应用定义的策略。
符合执行条件的规则实例集合通常称为议程。许多引擎还会防止某个规则实例在支持它的事实未发生变化时反复触发,这种机制通常称为折射机制(refraction)。
反复检查每条规则的每个条件可能代价高昂。Rete算法通过将条件组织成网络并保留部分匹配结果,提高增量匹配的效率。工作内存中的变化只会沿该网络的相关部分传播,而不必重新进行完整匹配。
这种方法以更多内存换取重复计算的减少。其效果取决于规则结构、事实数量、部分匹配结果的数量以及更新模式。高效匹配并不能消除搜索空间本身过大所带来的开销。
逻辑含义与保证
推理引擎属于更广泛的知识表示与推理领域,但并非所有推理引擎都实现同一种推理。
对于逻辑知识库 和命题 ,记号
表示在所有满足 的解释中, 都为真。相比之下,
表示某个推理过程能够从 推导出 。
如果一个过程得出的推导在预期语义下有效,就称其具有可靠性;如果它能够推导出相关逻辑系统内的每一个逻辑后果,就称其具有完备性。这些性质都相对于特定的表示方式和语义而言;仅凭“推理引擎”这一名称,并不能断定它具备其中任何一种性质。
即使推理过程具有可靠性,也不能保证结论准确描述现实世界。它的前提可能错误、不完整、过时,或不适用于当前情境。
其他一些区别同样重要:
- 单调推理:增加前提不会使先前的结论失效。
- 非单调推理:当新信息推翻某项假设或默认判断时,已有结论可能被撤回。
- 开放世界推理:知识库未能确立的陈述,不会自动被视为假。
- 封闭世界推理:在规定条件下,无法确立某项陈述可以被视为该陈述为假的依据。
支持撤回事实的引擎,可以记录结论所依赖的关系,以便移除失去支持的推导结果。如果由某个原始事实推导出的结论仍留在工作内存中,那么仅仅删除该原始事实是不够的。
有些引擎能够处理不确定性,输出概率或其他置信度度量,而不是确定性的结论。概率推理与早期专家系统中的确定性因子属于不同的形式体系,其数值输出不应被视为可以互换。
历史发展与应用
在20世纪60年代和70年代,推理引擎成为专家系统研究的核心。DENDRAL和MYCIN等系统展示了一类方法:将专业知识的表示与应用这些知识的大部分机制分离。随后出现的专家系统外壳,使开发者能够通过向可复用的推理软件提供领域规则来构建应用。
基于规则的引擎已用于设备诊断、配置、资格审查、业务政策执行、调度和监控。当重要决策能够表达为明确的条件及其后果时,这类引擎尤其有吸引力。
相关的推理组件也见于自动定理证明、本体推理和形式验证。这些组件的任务并不相同:证明定理、检查逻辑一致性、对概念进行分类以及执行业务政策,需要不同的语义和控制方法。
显式规则可以支持解释功能,指出得出某项结果所依据的前提和规则。然而,执行轨迹并不自动构成充分的解释:它可能过于详细,遗漏相关的背景假设,或者只是描述软件行为,而没有证明底层领域模型是正确的。
在机器学习中的含义
在机器学习部署中,推理引擎是加载并执行已训练模型的运行时。对于神经网络,它执行的是神经网络推理,即利用学习得到的参数,根据输入计算输出,通常不更新这些参数。
运行时可以执行计算图、分配内存、选择针对特定硬件的运算,并在中央处理器或图形处理器上调度计算。编译器可以在部署之前或部署期间,将模型转换为执行效率更高的表示。
典型的优化技术包括:
- 合并兼容的运算,以减少中间计算和内存数据传输。
- 在中间值不再需要时复用其占用的内存。
- 将多个请求合并处理。
- 将计算分配到多个设备上。
- 应用神经网络量化或其他低精度执行方法。
对于大语言模型,引擎还可能管理提示词处理、迭代式词元生成、请求调度以及键值缓存。模型服务系统可以在引擎外围提供网络接口、身份验证、请求队列和监控;执行运行时与完整的服务平台不一定是同一个组件。
这里的“推理”通常指对学习得到的模型进行求值,而不是证明模型输出在逻辑上由显式前提推出。因此,流畅的生成式解释与规则引擎记录的推导过程并不相同。混合式神经符号人工智能系统可以将学习得到的预测与显式推理结合起来,但其所能提供的保证取决于各组件的交互方式。
局限与评估
经典推理引擎同时受到推理过程和知识表示方式的制约。大型规则集可能包含矛盾、冗余条件、循环依赖和非预期的相互作用。获取并维护准确的领域知识,可能比实现引擎本身更加困难。
终止性需要格外注意。反复推导已有事实通常可以得到控制,但生成新对象或触发相互强化动作的规则可能无限执行下去。不能假定对于每一种表示方式,逻辑完备性、终止性和实际效率都能同时实现。
因此,评估取决于引擎的用途:
| 引擎类型 | 重要评估标准 |
|---|---|
| 基于规则的引擎 | 预期规则的覆盖程度、冲突消解的正确性、终止性、更新处理和解释质量 |
| 逻辑推理器 | 可靠性、所支持逻辑片段内的完备性、一致性处理和搜索开销 |
| 概率推理引擎 | 概率计算或近似的准确性、收敛性和计算开销 |
| 机器学习运行时 | 输出保真度、延迟、吞吐量、内存使用、硬件兼容性和数值稳定性 |
对于机器学习运行时,更快的执行速度并不能证明模型准确或可靠。运行时的正确性关注的是预期计算是否得到恰当执行;模型的有效性关注的则是该计算能否为应用产生有用的结果。