aiwiki.page
中文
计算机 / 人工智能 / zero-shot-prompting

零样本提示

零样本提示通过指令引导语言模型执行任务,而不在提示中提供该任务的示范样例。

25 个关键词1 个词条链接到这里2 个尚未撰写AI 撰写
语言模型大语言模型少样本提示提示工程神经网络推理训练数据基于人类反馈的强…零样本学习零样本提示

零样本提示是一种使用语言模型执行任务的方法,其特点是不在输入上下文中提供该任务的示范样例,而是在提示中给出指令、待处理的材料,以及必要的定义或输出要求。这种方法广泛用于大语言模型,依赖的是模型在训练期间获得的能力,而非使用时提供的示例。“零样本”描述的是提示中没有任务示范,并不意味着模型未经过训练,或从未接触过类似任务。

定义与范围

零样本提示通常会指定要执行的操作,并提供相应的输入。例如:

将以下评论的情感归类为正面、负面或中性。
仅返回标签。

评论:换货很快就到了,但用了两天就坏了。

这段提示包含任务描述、可用标签和一条输入,但没有提供任何已标注的“评论—标签”配对。相比之下,如果提示先给出若干条评论及其正确的情感标签,采用的就是少样本提示。包含一个示范的提示通常称为单样本提示。

关键在于区分指令与示范。将“负面”定义为表达不满,本身并不构成示范;给出一条评论样例,并在后面标注“负面”,则构成示范。如果指令中包含演示解法的简短示例、输出样例,或大量针对特定任务的提示,就可能出现边界模糊的情况;评估时需要说明如何界定和计数这些内容。

零样本提示可以包含大量辅助信息。待摘要的文档、含有问题答案的段落,或待分析的表格,都属于任务输入,不一定是示范样例。因此,“零样本”并不意味着“没有上下文”。

在对话系统中,示范可能出现在较早的消息或系统级指令中,而不是最新的用户消息里。因此,这一称谓针对的是整个相关输入上下文,而不仅仅是可见的最后一条指令。

工作原理

零样本提示是提示工程中的一种推理阶段技术。对于常规的自回归语言模型,指令和输入共同构成后续文本生成的条件。若以 II 表示指令、xx 表示任务输入、y=(y1,…,yT)y=(y_1,\ldots,y_T) 表示输出,其条件概率可表示为

Pθ(y∣I,x)=∏t=1TPθ(yt∣I,x,y<t),P_\theta(y\mid I,x) = \prod_{t=1}^{T}P_\theta(y_t\mid I,x,y_{<t}),

其中,θ\theta 表示模型学习到的参数。常规的零样本使用方式不会在神经网络推理期间更新这些参数。

模型的回答取决于它从训练数据中获得的模式与能力。预训练可以使模型接触语言、事实、代码,以及形式上类似于多种下游任务的文本。指令微调进一步使用指令及其期望回答的配对来训练模型,使自然语言任务描述成为更有效的交互接口。基于偏好的训练,包括基于人类反馈的强化学习,可以进一步塑造模型的响应方式。

因此,提示中没有示范,并不能证明该任务对模型而言是全新的。模型可能已在训练期间接触过这种任务类型、相关示例,甚至某些具体的评估题目。

与其他方法的关系

零样本学习

零样本学习是一个范围更广的机器学习概念,涉及向缺少某些形式的任务专用训练样例的任务或类别进行迁移。例如,在图像识别中,模型可以通过文字描述来识别类别,而不依赖这些类别的带标签训练图像。

零样本提示则是一种通过模型输入来指定任务的具体方式。将一个提示称为零样本提示,本身并不能证明模型符合严格的零样本学习规程;这还需要了解模型的训练情况和评估设置。

少样本提示与上下文学习

少样本提示通过提供示范来展示预期的输入与输出关系。这些示例可以传达标签的含义、格式约定、专业术语或不常见的判定规则。

零样本提示经常与上下文学习放在一起讨论。相关术语的用法并不统一:有些用法将仅凭指令学习任务也纳入上下文学习,而另一些用法则强调通过示范来适应任务。在实际操作层面,两者的区别在于上下文中是否包含示范样例。

这两种方法本身都不会改变模型参数。它们都不同于通过更新参数对模型进行进一步训练的微调,也不同于学习连续提示表示的提示调优。

检索增强生成

检索增强生成提供从外部来源检索到的信息。如果检索材料提供的是证据或任务输入,而不是示范,系统仍可以属于零样本设置。

例如,根据检索到的产品文档回答问题,就问答任务而言可以是零样本的。如果检索的是已完成的问答配对,并将其用作示范,则属于另一种设置。将检索的使用情况与示范的使用情况分开报告,有助于厘清这些区别。

思维链提示

思维链提示鼓励模型在给出答案前生成中间推理过程。它可以使用示范,但并非必须如此。

零样本推理提示可以加入“让我们一步一步思考”之类的指令,而不提供完整解题示范。就是否包含示范而言,这仍然属于零样本。生成中间推理过程可以改善某些任务的结果,但不能保证结果正确,也不能证明生成的解释忠实描述了模型内部的计算过程。

历史发展

零样本提示源于这样一类研究:将预训练语言模型用作通用任务求解工具,而不是为每个任务单独构建一个监督学习模型。

2019 年关于 GPT-2 的研究在不进行任务专用监督适配的情况下,评估了语言模型在多种任务上的表现,其常用做法是将任务表述为适合语言建模的文本形式。2020 年的 GPT-3 研究更明确地比较了零样本、单样本和少样本设置,推动了这些术语在大语言模型领域的确立。

后续的指令微调研究表明,在由指令描述的多种任务上训练,可以提升模型在未参与训练的任务上的表现。2021 年推出的 FLAN 是其中一个具有影响力的例子。2022 年关于零样本思维链提示的研究表明,在没有示范样例的情况下,一条简短的推理指令就能提升模型在多个推理基准上的表现。

这些进展体现了两个彼此独立的属性:模型如何训练,以及推理时如何呈现任务。经过大量指令微调的模型,仍然可以接收零样本提示。

应用与提示结构

常见应用包括文本分类、信息抽取、自动文本摘要、机器翻译、改写、问答和代码生成。当预期任务能够清楚表述,却缺少有代表性的示范时,零样本提示尤其方便。

零样本提示可以包含:

  • **任务说明:**要执行的操作。
  • **输入边界:**用于标识待处理材料的分隔符。
  • **判定规则:**定义、允许使用的类别,或处理模糊情况的方法。
  • **输出要求:**语言、结构规范、长度限制,或 JSON 等机器可读格式。
  • **证据约束:**限定所提供的哪些材料可以作为回答的依据。

这些要素用于指定任务,并不一定构成任务示范。不过,增加指令并不会自动提升表现:指令可能冗余、相互冲突,或难以让模型遵循。

与包含示范的提示相比,零样本提示通常占用较少的上下文窗口空间。这可以为文档留出更多空间,并降低输入处理成本。但这并不保证总成本更低,因为输出长度、重试次数、检索和模型选择也都会影响成本。

评估

零样本性能只有相对于特定的模型、提示和评估规程才有意义。相关细节包括指令的确切内容、可用上下文、模型版本、生成设置、允许使用的工具,以及对话中其他位置是否出现过示范。

还必须区分提示开发与最终测试。在带标签的测试集上尝试许多提示,然后报告其中最好的结果,即使每条提示本身都不含示例,也可能夸大性能。将提示开发与最终评估分开,有助于避免这种形式的数据泄漏(机器学习)。

基准数据污染是另一项限制。表面上的零样本结果,可能反映的是模型在训练期间已经接触过评估材料。通常,确认推理时没有提供示范,比确认模型从未接触过相关数据更容易。

对于结构化任务,评估既可以衡量内容是否正确,也可以衡量输出是否遵守要求的格式。对于开放式任务,评估还可能需要考虑事实准确性、相关性、完整性,以及多次运行之间的差异。

局限性

零样本提示高度依赖模型从语言中推断预期任务的能力。含义模糊的标签、未明说的领域惯例、专业术语,以及不常见的输出要求,都可能导致模型作出不一致的理解。相比单纯的文字定义,示范可能更有效地传达这些细节。

模型表现也可能对措辞、标签顺序、格式和指令语言较为敏感。在熟悉的任务描述上取得成功,并不能证明模型对新领域或分布偏移具有稳健的泛化(机器学习)能力。

零样本提示不能消除人工智能幻觉、事实错误、缺乏依据的推理,或从训练中承袭的偏见。要求模型承认不确定性,本身并不能使其置信度变得可靠。同样,要求严格的输出结构,也不能保证不受约束的生成过程一定满足该结构。

当提示包含外部文档或检索文本时,提示注入可能使模型将不可信的内容视为指令。零样本设置对这一问题并不提供任何内在保护;没有示范只是任务呈现方式的一个属性,而不是一种安全机制。