提示链是一种将大语言模型的工作组织成多个相互衔接步骤的技术,其中一次模型调用的输出会作为后续调用的输入。与要求模型在单次回复中完成整个任务不同,提示链为连续的提示分配范围更小的职责,例如提取事实、构建提纲、起草文本和检查结果。它将提示工程与应用层面的协调相结合:由软件决定各阶段接收什么信息、如何处理中间结果,以及何时继续或停止执行。
工作原理
提示链将任务划分为具有明确依赖关系的多个阶段。每个阶段通常包含指令、相关输入数据、预期输出格式,以及结果的验收标准。各阶段可以使用同一个模型、不同模型,也可以混合使用模型调用和常规软件操作。
简单的线性提示链可以表示为:
其中, 是原始输入, 为阶段 构建提示, 是该阶段使用的模型, 是其输出。第一阶段没有前一阶段的输出,构建提示时也就不使用这类输出。更一般的实现会传递选定的先前输出或共享状态,而不只是紧邻的前一阶段结果。
例如,文档处理提示链可以包含以下步骤:
- 从文档中提取论断及其支撑段落。
- 按主题对这些论断进行分组。
- 根据分组生成提纲。
- 利用提纲和提取的证据起草报告。
- 检查报告中的论断是否得到所提供段落的支持。
连接这些阶段的应用程序可以拒绝格式不合要求的输出、要求修改,或将结果转交人工审核。因此,提示链不只是写在纸面上的一连串提示:它的行为取决于信息与执行过程如何协调。
结构与编排
中间表示
阶段之间交换的信息可以是自然语言文本、表格、代码、标签或结构化记录。一种常见实现是使用带有 claims、evidence 和 unresolved_questions 等字段的 JSON 对象。
结构化输出让某些检查变得简单直接。软件可以验证必填字段是否存在、某个值是否符合预期类型,或者标识符是否指向可用的文档。这些检查并不能证明内容真实。格式正确的记录仍然可能包含缺乏依据的论断或错误的解释。
中间表示也决定了后续阶段能够获知哪些信息。仅传递摘要可以缩小输入规模,但可能丢失限定条件、例外情况或来源细节。传递完整历史记录可以保留更多信息,但会增加处理成本,也可能引入无关材料。
控制流
虽然“链”让人联想到线性序列,但相关工作流往往也包含分支、并行处理和次数有限的修改循环。分类器可以从多个专用提示中选择一个;相互独立的章节可以通过并行计算处理后再合并;验证失败则可能触发再次尝试。
在广义用法中,这些安排有时也被称为提示链,不过用“工作流”或“图”来描述更为准确。它们的控制流既可以由软件预先固定,也可以根据模型输出动态选择。
协调应用通常通过应用程序编程接口与模型连接。应用程序负责维护状态、处理故障并实施执行限制。模型生成的指令,只有在外围软件对其进行解释或执行时,才会产生实际操作效果。
与其他技术的关系
思维链提示
提示链与思维链提示是不同的技术。思维链提示旨在引出或鼓励模型在一次回复中给出中间推理过程。提示链则将工作分配到多次独立调用中,并由外部系统管理阶段之间的衔接。
提示链可以包含侧重推理的阶段,但也完全可以不要求模型解释推理过程。一个依次提取姓名、统一拼写并整理成表格的流水线,即使每次中间回复都只是简短的结构化记录,也仍然属于提示链。
检索增强生成
检索增强生成向模型提供检索得到的信息。它可以作为提示链的一部分来实现:改写问题、检索文档、选择相关段落,然后生成答案。
提示链并不一定需要检索,而检索增强系统也不一定包含多次模型调用。这两个概念描述的是系统设计的不同方面:检索关注如何获取外部信息,提示链则关注如何组织具有依赖关系的处理阶段。
对话交互
对话包含多个轮次,但仅有多轮交互并不意味着进行了任务分解。在普通对话中,用户可以决定接下来问什么。在提示链中,应用程序通常至少会规定部分执行顺序,以及阶段之间如何交接。
不过,提示链也可以包含人工批准或澄清环节。反过来,聊天应用也可以在内部执行完整的提示链之后,才向用户显示一条回复。
AI智能体
AI智能体可以根据当前状态选择行动、工具或后续任务。固定提示链的执行路径通常受到更多限制。两者之间并不存在严格界限,而是呈现连续谱:智能体可以调用预定义的提示链,提示链也可以包含由模型驱动的路由步骤。仅仅使用多个提示,并不能使系统具备自主性。
常见模式与应用
提取与转换。 模型从非结构化材料中提取结构化信息,再由另一个阶段对其进行规范化或重新格式化。常规软件可以在模型调用之间执行确定性转换。
规划与执行。 一个阶段生成提纲或任务分解方案,后续阶段负责执行。这可以将组织安排上的决策与详细内容生成分开,但有缺陷的计划可能会制约之后的每一步。
起草与修改。 根据明确的标准检查初始回复,然后进行修改。检查阶段可以审查文风、完整性、一致性或证据支持情况。不过,它的判断仍然可能出错。
分层摘要。 将长文档分成若干部分,分别生成摘要,再将这些摘要合并。当源材料超出模型的上下文窗口时,这种方法很有用,但反复进行自动文本摘要可能会逐步丢失重要细节。
代码生成与测试。 提示链可以生成代码,在受控环境中运行代码,收集测试结果,并要求修正。可执行测试能够提供模型自我评估之外的证据,但通过有限的一组测试,并不能证明代码对所有输入都正确。
问答与报告。 不同阶段可以分别负责理解问题、收集证据、撰写答案,以及检查论断与来源的对应关系。在这些阶段中保留来源标识符,有助于维护数据血缘并开展检查。
优点与权衡
任务分解可以减少单次调用中相互竞争的指令数量。不同提示也可以独立测试和修改。中间输出让某些故障更容易定位:最终报告中的错误,可能源于提取、解释或呈现环节,而不再只能归结为一个未加区分的生成步骤。
提示链还可以有选择地分配资源。相对较小的模型可以处理简单分类,而能力更强的模型则负责困难的综合任务。算术运算、数据库查询和格式检查等确定性操作,可以继续交由模型之外的软件完成。
这些优势并非无条件成立。更多阶段会带来更多潜在故障点、实现工作和运行依赖。表现出色的单次调用方案可能优于任务分解不当的提示链,尤其是在任务需要紧密整合信息,而分解过程却将这些信息拆散时。
顺序调用还会增加延迟,因为存在依赖关系的阶段无法同时运行。总用量包括每个阶段处理的输入和输出;反复传递相同的源材料可能成本高昂。输入长度部分取决于分词与词元化,而不只是字符数或单词数。
可靠性与错误传播
错误传播是提示链的一项核心局限。早期阶段可能遗漏事实,或编造某个前提,而后续阶段却将其视为权威依据。反复引用和润色改写可能让由此产生的错误显得更可信,却没有增加任何证据。
在一个简化模型中,假设各阶段的成功概率 相互独立,且每个阶段都必须成功,那么整体成功的概率为:
真实的提示链很少满足这些假设:错误之间可能存在关联,某些阶段可以纠正先前的错误,而且并非所有中间错误都会改变最终结果。尽管如此,这个表达式仍说明了为什么增加阶段并不会自动提高可靠性。
基于模型的审核阶段并不能独立保证结果正确。不同模型可能存在相同的知识盲区,接受看似合理但实际上错误的前提,或提出缺乏依据的修正。提示链并不能从根本上消除人工智能幻觉。
因此,评估时需要区分阶段级性能与端到端性能。有用的指标包括提取准确率、证据覆盖率、最终答案正确率、延迟、成本和人工介入频率。与单次调用基线进行比较,有助于确定额外阶段是否带来了可衡量的收益。评估样例应与提示开发所用样例分开,以减少对少量案例的过拟合。
安全与运行约束
提示链可能在多次模型调用之间传递不可信内容。嵌入检索文档中的恶意指令可能被复制到中间摘要中,继而影响后续阶段。这是提示注入的一种形式;转换或摘要处理并不一定能消除这种威胁。
安全性取决于外围应用,包括访问控制、遵循最小权限原则的工具权限,以及对不可信数据和权威指令的隔离。如果提示链能够执行生成的代码,沙箱(计算机安全)可以限制执行过程能够使用的资源和能力。
运行记录可以帮助调试,但中间提示和回复可能包含敏感信息。因此,日志记录、数据保留和访问策略不仅影响可观测性,也影响数据隐私。
重试和修改循环还会带来其他问题。如果没有明确限制,工作流可能反复生成并拒绝输出,从而增加成本或推迟完成时间。当提示链执行创建记录、发送消息等外部操作时,重试处理还必须考虑操作效果重复发生的可能性。