{
  "id": "learning-to-rank",
  "title": "排序学习",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "排序学习利用机器学习，根据特定情境中各项目的相关性、偏好程度或效用对其排序。",
  "category": "computer-science",
  "subcategory": "artificial-intelligence",
  "type": "concept",
  "aliases": [
    "学习排序",
    "机器学习排序",
    "LTR"
  ],
  "generated_at": "2026-11-04",
  "model": "pro/gpt-6.1-sol",
  "url": "https://aiwiki.page/zh/learning-to-rank/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/learning-to-rank/",
      "json": "https://aiwiki.page/en/learning-to-rank.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "排序学习研究并应用能够学习如何对项目排序的机器学习方法。给定某种情境（例如搜索查询、用户兴趣或一个问题）以及一组候选项，排序模型会生成一个排列，力求将最有用的项目排在最前面。这一领域的核心关注点是相对位置：即使系统能够准确估计单个项目的属性，若将不合适的项目排在靠前的位置，最终的排序仍可能不尽如人意。\n\n这一领域主要发展于信息检索，其中，通过学习得到的模型会综合多种信号，为查询所对应的文档排序。排序学习也是推荐系统、商品搜索、广告、问答及其他选择任务的基础。排序学习系统在监督方式、数学目标、模型架构以及处理用户交互的方式上各有不同。评估这类系统时，不仅要考虑相关性，还必须考虑位置、相关性判断不完整、选择偏差，以及离线指标与用户体验之间的关系。"
    },
    {
      "heading": "排序问题及其数学结构",
      "text": "标准的排序问题由情境 \\(q\\)、候选集 \\(D_q\\)，以及关于候选项应如何排列的依据组成。在搜索中，\\(q\\) 是查询，\\(D_q\\) 包含文档。在推荐中，情境可能包括用户、会话和时间，而候选项则是商品、视频或其他项目。即使不存在明确的文本查询，也常常会在抽象意义上使用“查询”一词。\n\n一种常见的模型会为每个候选项赋予一个实数分数：\n\n\\[s_i=f_\\theta(q,d_i),\\]\n\n其中，\\(d_i\\in D_q\\)，\\(\\theta\\) 表示学习得到的参数。按分数从高到低排列候选项，即可得到一个排列 \\(\\pi_\\theta(q)\\)。更一般的模型会对整个候选集评分，或逐步构建排序结果。这些模型能够表示候选项之间的依赖关系，例如，同时展示多篇几乎相同的文档会降低展示价值。\n\n分数与排序之间的区别至关重要。对于各候选项独立评分的候选集，对所有分数施加相同的严格递增变换，不会改变其顺序。因此，许多排序目标并不能确定唯一的数值尺度。得分为 4 并不一定意味着相关性是得分为 2 的两倍，不同查询的分数也不一定具有可比性。如果应用需要经过校准的点击概率，或需要在不同情境之间比较效用，就必须满足排序之外的额外要求。\n\n训练通常遵循经验风险最小化原则，采用一个在计算上比期望的排序评价指标更容易优化的替代目标：\n\n\\[\\hat{\\theta} = \\arg\\min_\\theta \\left[ \\frac{1}{M}\\sum_{q=1}^{M} L_q(\\theta) + \\lambda\\Omega(\\theta) \\right].\\]\n\n这里，\\(L_q\\) 是查询级别的损失函数，\\(\\Omega\\) 是正则化项，\\(\\lambda\\) 控制正则化强度。采用查询级别的记法很重要：如果把每篇文档或每个偏好对都视为独立且权重相同的观测，就可能使候选项较多的查询产生不成比例的影响。\n\n与传统的排序算法不同，排序模型必须学习什么样的顺序才有用。排序算法执行给定的比较规则，而排序学习则根据数据估计这条规则。与普通分类不同，对某个候选项的预测质量取决于其他候选项及其位置。将一篇相关文档从第 100 位移至第 90 位，实际影响可能很小；而将其从第 2 位移至第 1 位，则可能显著改变用户行为。\n\n候选集也限制了排序模型所能达到的效果。如果候选集中没有某篇相关文档，无论如何调整顺序，都无法将其找回。因此，排序质量共同取决于候选项生成、学习得到的排序，以及后续任何会修改展示列表的规则。"
    },
    {
      "heading": "训练依据、相关性判定与特征",
      "text": "最直接的训练依据来自人工评估员给出的相关性判定。评估员审查查询—文档对，并为其分配标签，例如不相关、部分相关、相关或高度相关。这些标签可用于监督学习，但其含义取决于评估指南。主题相关性、对特定任务的实用性、权威性以及对隐含意图的满足程度，是相互关联但各不相同的属性。\n\n对于大规模文档集合，相关性判定的收集必然有所取舍。评测活动通常采用池化方法：将多个系统检索结果中排名靠前的文档汇集起来，再进行评估。池化使得评测无须判定每一篇文档便可开展，但也会使集合中的大多数文档处于未判定状态。未经判定的文档不一定不相关。如果训练或评测流程不加区分地将所有缺失判定都视为负例，就可能使那些检索到原始文档池之外有用文档的系统处于不利地位。\n\n交互日志提供了规模大得多的训练数据来源。点击、购买、停留时长、收藏、跳过和显式评分都可以提供监督信号。这些行为的含义取决于具体情境。一次点击可能表示用户感兴趣、呈现方式具有吸引力，或用户需要查看某个含义不明确的结果；没有点击则可能意味着用户根本没有看到该项目。购买行为是某一类效用的更强证据，但较为稀疏，而且会受到价格、供货情况以及排序模型之外其他因素的影响。\n\n传统系统将每个查询—候选项对表示为特征向量 \\(x(q,d)\\)。特征工程可以结合词汇匹配、文档质量、时效性、用户上下文和历史交互统计信息。文本信号包括词频—逆文档频率相似度、BM25检索模型得分、精确短语匹配、标题匹配以及查询词之间的邻近程度。与查询无关的特征可以包括文档长度或网页排名算法得分，而个性化特征则可以描述用户此前与某类项目的交互情况。训练得到的模型会确定这些信号如何相互作用，而不是依赖单一的人工选定公式。\n\n公开的基准数据集推动了这种表示方式的标准化。LETOR 发布了多个版本的基准数据集，其中包含按查询分组的特征向量和相关性标签。微软的 MSLR-WEB10K 和 MSLR-WEB30K 数据集分别包含约 10,000 个和 30,000 个查询，均提供 136 个特征，以及编号为 0 至 4 的五个相关性等级。这类数据集有助于比较排序算法，不过预先计算的特征无法还原实际运行的检索系统的所有方面。\n\n构建数据集时，必须确保数据划分符合预期的泛化任务。如果以单条查询—文档记录为单位随机划分数据，同一查询的样例就可能同时出现在训练集和评估集中，从而使评估场景比实际情况容易得多。按查询分组、按用户分组或按时间顺序划分数据，分别对应不同的部署问题。即使训练集与测试集的划分本身看似正确，使用未来交互信息计算的特征仍会引入数据泄漏（机器学习）。"
    },
    {
      "heading": "评估指标与实验设计",
      "text": "排序评估关注的是，有用的项目是否出现在有用的位置上。不同指标体现了对用户需求的不同假设。前 \\(k\\) 项精确率衡量前 \\(k\\) 个项目中被判定为相关的项目所占的比例，而前 \\(k\\) 项召回率衡量所有相关项目中出现在这些位置内的项目所占的比例。当相关性判定分为多个等级时，这两个指标都取决于所采用的相关性阈值。召回率还要求对相关项目集合做出有意义的估计，而对于未得到完整标注的数据集，这可能很困难。\n\n平均精度对较早且持续检索出相关文档的排序给予较高评价。对于二元相关性，一种标准定义为\n\n\\[\\operatorname{AP} = \\frac{1}{R} \\sum_{r=1}^{n} P(r)\\operatorname{rel}(r),\\]\n\n其中，\\(R\\) 是相关文档的数量，\\(P(r)\\) 是截至排名 \\(r\\) 的精确率；对于相关文档，\\(\\operatorname{rel}(r)\\) 为 1，否则为 0。平均精度均值是对各个查询的平均精度取平均。它非常适合需要多个相关结果的任务，但不能直接体现相关程度的差异。\n\n归一化折损累计增益（NDCG）将分级相关性与随排名降低而递减的位置权重结合起来。一种广泛使用的形式为\n\n\\[\\operatorname{DCG}@k = \\sum_{r=1}^{k} \\frac{2^{y_{\\pi(r)}}-1}{\\log_2(r+1)}, \\qquad \\operatorname{NDCG}@k = \\frac{\\operatorname{DCG}@k}{\\operatorname{IDCG}@k}.\\]\n\n分母是对已标注候选项进行理想排序后得到的 DCG。指数增益函数赋予高度相关结果高得多的价值；实践中也使用其他增益函数。当理想排序的 DCG 为零时，评估软件必须采用明确说明的处理规则，常见做法是将该查询的得分设为零，或在某项分析中将其排除。\n\n平均倒数排名是各个查询的首个相关结果所在位置的倒数的平均值。它适用于以找到一个满意答案为核心目标的情境，但会忽略首个相关结果之后的所有相关项目。没有任何指标在所有情况下都是最优的：导航型搜索、文献综述和推荐信息流对应着不同的用户任务。同样，指标的截断位置也是实质性的选择，而不只是报告结果时的细节。\n\n离线评估需要固定的候选集、定义明确的相关性标注，以及从未用于模型开发或选择的测试集。反复根据测试集进行模型选择，会使报告的结果越来越乐观；应使用独立的验证集来调参。由于同一查询下的文档相互依赖，不确定性估计和配对比较通常将查询、用户或会话，而非单篇文档，作为相应的抽样单位。\n\n在线实验衡量的是实际展示条件下的行为。A/B 测试将符合条件的流量随机分配给不同系统，并比较任务成功完成情况或用户参与度等结果。交错实验则将两个排序器的结果合并到同一个列表中，并按照指定规则，将交互所提供的证据归因于相应的排序器。离线结果与在线结果可能存在差异，因为相关性标注、展示方式、候选项选择和观察到的行为反映了有用性的不同方面。"
    },
    {
      "heading": "逐点、成对与列表级学习",
      "text": "排序学习方法的传统分类依据定义训练目标时所采用的单位，将方法分为逐点、成对和列表级三类。这种分类并不决定模型架构。线性函数、树集成模型或神经网络都可以用于不止一类方法；即使各个项目的评分相互独立，仍然可以使用列表级目标进行训练。\n\n逐点方法将每个查询与候选项的配对视为一个预测问题。模型可以通过回归预测数值型的相关性等级，也可以对项目是否相关进行二分类。平方误差的形式为\n\n\\[L_{\\mathrm{point}} = \\sum_i (s_i-y_i)^2.\\]\n\n这种表述简单，因而可以与许多成熟的学习算法配合使用。它的缺点是目标不匹配：降低每个项目的预测误差不一定能改善排序，尤其是靠前位置的排序。此外，标签可能只表示先后等级，这种方法却赋予了标签差值数值意义。\n\n成对方法从“文档 \\(i\\) 应排在文档 \\(j\\) 之前”这样的偏好中学习。对于满足 \\(y_i>y_j\\) 的一对项目，逻辑损失为\n\n\\[L_{ij} = \\log\\left(1+\\exp[-\\sigma(s_i-s_j)]\\right),\\]\n\n其中，\\(\\sigma>0\\) 控制评分的尺度。另一种选择是合页损失，其惩罚项为 \\(\\max(0,1-s_i+s_j)\\)。这些目标直接推动模型给出正确的相对顺序，而不要求将相关性等级视为精确的数值目标。它们也很自然地适用于人类对备选项进行的比较。\n\n成对学习也带来了自身的加权问题。一个包含 \\(n\\) 个候选项的查询可以产生 \\(O(n^2)\\) 个配对，其中许多配对是冗余的，或无法提供有效信息。采样可以减少计算量，而加权则可以突出涉及高相关性项目或靠前位置的比较。对所有逆序一视同仁，通常与 NDCG 的衡量方式并不一致：交换两个排名靠后的文档，即使几乎不改变用户看到的结果，也可能被计为一次排序错误。\n\n列表级方法针对候选列表或其评分所诱导的分布定义损失。2007 年提出的 ListNet 使用由评分推导出的概率分布，其中包括一种实用的首位概率表述。2008 年提出的 ListMLE 则在序贯选择模型下最大化目标排列的似然：\n\n\\[P(\\pi\\mid s) = \\prod_{r=1}^{n} \\frac{\\exp(s_{\\pi(r)})} {\\sum_{j=r}^{n}\\exp(s_{\\pi(j)})}.\\]\n\n分级相关性标注往往存在同级项目，因此，构造目标排列或对目标排列进行边缘化时需要谨慎。此外，“列表级”并不自动意味着直接优化某一特定的评估指标。有些列表级目标是概率型的替代目标，另一些则对排名位置或指标变化进行近似。它们是否适用，取决于具体应用需要惩罚哪些错误。"
    },
    {
      "heading": "经典算法与面向评价指标的排序方法的发展",
      "text": "20 世纪 90 年代末至 21 世纪头十年，几种具有重要影响的方法确立了排序学习作为独立研究领域的地位。Yoav Freund、Raj Iyer、Robert Schapire 和 Yoram Singer 开发并于 2003 年发表的 RankBoost，将提升法用于偏好学习。它组合多个弱排序函数，使更受偏好的项目倾向于获得更高的分数。这一形式化框架有助于证明，排序可以直接从顺序约束中学习，而不必完全转化为相关性分类问题。\n\nThorsten Joachims 在 2002 年关于利用点击数据优化搜索引擎的研究中，采用了基于支持向量机的排序建模方法。这种方法通常称为 Ranking SVM 或 RankSVM，通过学习权重向量 \\(w\\)，使其对存在偏好关系的项目对满足如下形式的约束：\n\n\\[w^\\top x_i \\geq w^\\top x_j + 1-\\xi_{ij}\\]\n\n其中，松弛变量 \\(\\xi_{ij}\\) 允许违反约束。这种基于间隔的建模方式提供了正则化机制，并将排序问题与成熟的优化方法联系起来。后续的计算改进使其能够处理规模更大的偏好约束集合。\n\nChristopher Burges 及其同事于 2005 年提出的 RankNet，使用可微的概率模型来描述成对项目的顺序。神经网络评分函数生成 \\(s_i\\) 和 \\(s_j\\)，并通过关于 \\(s_i-s_j\\) 的逻辑斯蒂函数，建模项目 \\(i\\) 比项目 \\(j\\) 更受偏好的概率。利用反向传播进行训练，使成对排序能够与非线性模型结合。RankNet 的重要性在于其通用的可微训练框架，而不在于要求采用某种特定的网络深度。\n\n2006 年提出的 LambdaRank 通过定义称为 lambda 的分数更新信号，解决成对排序误差与排序评价指标不一致的问题。一种常见的构造方式是，用交换两个项目所引起的 NDCG 变化的绝对值，对 RankNet 式的成对更新信号进行缩放。因此，相比影响微不足道的逆序，对目标指标影响较大的逆序会得到更强的更新。其最初的思路强调构造有效的梯度，而不要求每一种变体都具有显式的常规损失表达式。\n\nLambdaMART 将这些面向评价指标的更新信号与提升回归树相结合。在 MART（多重加性回归树）框架中，评分函数是各棵树输出的总和：\n\n\\[f_T(x)=\\sum_{t=1}^{T}\\eta h_t(x).\\]\n\n每棵新树都拟合从当前目标函数中推导出的信息，其中 \\(\\eta\\) 控制更新幅度。树模型能够自然地表达阈值效应以及异质排序特征之间的交互作用，例如，时效性信号可能只对特定查询类型具有重要意义。\n\n现代梯度提升实现，包括 XGBoost、LightGBM 和 CatBoost，均提供排序目标函数及相应的训练功能。它们在具体目标函数、项目对构造、归一化方式和默认设置上各不相同。因此，仅凭模型名称无法认定实验条件等同：有意义的比较必须明确说明目标函数、查询分组、特征集、训练预算和评估方案。"
    },
    {
      "heading": "神经排序与学习得到的表征",
      "text": "神经排序将评分函数从人工设计特征的固定组合，扩展为基于查询、文档、用户和项目的学习表征进行评分。其发展与表征学习和自然语言处理密切相关。分布式词表示可以将含义相近、却不包含完全相同词元的表达联系起来，而上下文模型则能区分同一个词的不同用法。这些能力弥补了纯词汇匹配的局限，不过，对于精确名称、标识符和罕见技术表达，词汇信号仍可能更有优势。\n\n在架构上，一个核心区别是基于表征的检索与基于交互的评分。双编码器（dual encoder，也称 bi-encoder）分别计算查询向量和文档向量，再通过内积或其他相似度函数进行比较：\n\n\\[s(q,d)=E_q(q)^\\top E_d(d).\\]\n\n文档向量可以预先计算，因此这种架构适合通过近似最近邻搜索进行大规模候选检索。但这种高效性也伴随着限制：在评分时，文档表征通常无法针对每个具体查询作出细致调整。\n\n交叉编码器联合处理查询和文档，通常使用 Transformer架构，使两个文本中的词元能够通过注意力机制相互交互。自 BERT 于 2018 年问世以来，基于 BERT 语言模型的模型成为颇具影响力的神经重排序器。联合处理能够捕捉细粒度关系、否定语义以及跨段落的匹配证据。但其计算成本更高，因为每个查询—文档对都需要单独进行一次联合计算，所以交叉编码器通常用于对较小的候选集进行重排序，而不是直接搜索整个文档集合。\n\n训练通常采用对比学习，同时使用正例和负例候选。对于一个正例文档 \\(d^+\\) 和一个采样得到的负例集合 \\(N\\)，常用的目标函数为\n\n\\[L = -\\log \\frac{\\exp(s(q,d^+)/\\tau)} {\\exp(s(q,d^+)/\\tau)+ \\sum_{d^-\\in N}\\exp(s(q,d^-)/\\tau)},\\]\n\n其中，\\(\\tau>0\\) 是温度参数。批内负例复用同一批次中其他样本的文档，而难负例则是当前检索器认为可能相关、因而被选中的负例。难负例选择可以提高模型的辨别能力，但也可能将未经相关性标注的相关文档误标为负例。\n\n知识蒸馏将信息从计算成本高昂的教师排序模型传递给成本较低的学生模型。交叉编码器可以指导双编码器，大模型也可以指导较小的重排序器。学生模型可以学习评分分布、成对偏好或相关性标签。蒸馏能够降低推理成本，但也可能传递教师模型的系统性错误和局限。\n\n大语言模型可以通过逐项相关性判断、成对比较或列表式排序指令来进行排序。这些方法必须应对提示敏感性、输入顺序效应、上下文长度限制、输出有效性以及推理成本等问题。列表式提示还暴露了一个结构性难题：如果候选列表超出上下文窗口，分别在多个窗口中处理，并不会自动得到全局一致的排序。仅靠神经网络架构，并不能消除独立判断相关性与构建有用的最终列表之间的区别。"
    },
    {
      "heading": "交互偏差与反事实学习",
      "text": "行为数据由现有的排序策略产生，而非来自中立的观测过程。排名靠前的项目更容易被注意到并获得点击，由此产生了位置偏差。直接用点击数据训练模型，可能使模型学会复现先前排序模型的曝光模式，而非推断项目内在的相关性。这种反馈循环可能让原本就显眼的项目越来越占据主导地位，即使其效用并未相应提升。\n\n一个简单的查看模型将点击表示为“查看”与“吸引点击”两个条件同时成立的结果：\n\n\\[C_i=E_iA_i,\\]\n\n其中，\\(E_i\\) 表示项目是否被查看，\\(A_i\\) 表示项目在被查看的条件下是否吸引了点击。在一些简化假设下，\n\n\\[P(C_i=1\\mid q,d,r) = P(E_i=1\\mid r)\\, P(A_i=1\\mid q,d).\\]\n\n这一分解说明，为什么不同位置上观测到的点击率不能未经校正就直接比较。真实行为可能不符合这些假设：用户未必按顺序浏览，结果的呈现方式可能改变查看行为，相邻结果也可能影响某个项目是否显得有吸引力。\n\n反事实排序学习利用交互日志，估计或优化采用其他排序时的结果。一种常见技术是逆倾向加权。如果一条观测以概率 \\(p_i>0\\) 被记录，就可以用 \\(1/p_i\\) 对其贡献加权，使较少被观测到的情况获得更大的权重。对于一个经过简化、依赖于相关性的量 \\(g_i\\)，估计量中可能包含以下形式的项：\n\n\\[\\hat{U} = \\sum_i \\frac{C_i}{p_i}g_i.\\]\n\n这种估计是否有效，取决于 \\(p_i\\) 的含义、对点击行为所作的假设，以及日志生成过程是否为目标评估提供了充分的支持。\n\n倾向概率过小会产生很大的权重，导致较高的方差。权重截断和自归一化可以使估计更加稳定，但通常会引入偏差，或改变有限样本下的性质。双重稳健估计量将倾向概率信息与结果模型相结合，不过其理论保证取决于具体的问题设定。如果日志系统从不允许某些动作发生，那么在没有额外假设或探索的情况下，任何加权方案都无法恢复有关这些动作的证据。\n\n随机化干预，例如在受控条件下交换结果的位置，有助于估计查看效应，并将项目质量的影响与位置的影响区分开来。更广泛的探索可以收集曝光不足的候选项目的相关证据，但也会改变用户体验，因此必须将其作为系统的一部分加以评估。上下文多臂老虎机和强化学习框架对这一探索与利用问题的部分方面进行了形式化描述。\n\n即使校正了位置偏差，其他偏差仍然存在。用户会自行选择发起哪些查询；候选生成器决定哪些项目有机会展示；界面元素会影响信任；而放弃任务的用户往往不会留下反馈。因此，反事实排序与因果推断密切相关：核心问题不仅是哪些事件共同发生过，更是在采用另一种曝光策略的情况下会发生什么。"
    },
    {
      "heading": "检索流水线与生产环境约束",
      "text": "大规模系统通常通过多个连续阶段实现排序。候选生成阶段利用倒排索引、向量检索、基于图的筛选，或这些方法的组合，从庞大的集合中检索出规模可控的子集。轻量级排序模型进一步缩小这个子集，计算开销较大的重排序模型评估其中最有希望的候选项，最后一个阶段则可能执行去重、可用性规则检查或列表级约束处理。每个阶段都需要在计算成本与丢弃有用项目的风险之间权衡。\n\n这种架构使候选召回与排序质量密不可分。再出色的重排序模型，也无法挽回在上游阶段被剔除的相关项目。反过来，检索更多候选项虽然可以扩大覆盖范围，却也会增加延迟，使训练或评分更加困难。仅在固定的基准候选集上评估重排序模型的实验，并不能证明完整检索系统的质量。\n\n特征计算可能占据模型成本的大部分。历史汇总统计量可以从缓存中获取，而针对特定用户的交互特征或新近的文档特征，则可能需要在线进行数据关联。神经网络模型还会增加分词、序列处理及加速器使用方面的成本。树集成模型需要执行大量条件判断，其性能不仅取决于树的数量，还取决于具体实现和内存访问特性。因此，生产环境中的评估不仅关注相关性指标，还包括延迟分布、吞吐量和基础设施成本。\n\n训练与线上服务的一致性是另一项核心约束。特征在模型训练和线上推理时必须具有相同的含义，并采用相兼容的计算方式。历史数据集可能包含作出排序决策时尚不可用的信息，也可能使用不同的时间窗口计算汇总统计量。这类差异可能导致离线得分很高、线上表现却很差，而模型拟合过程本身并没有任何明显错误。\n\n时效性也带来了类似的矛盾。新项目几乎没有交互历史，新用户的行为画像也较为有限。在这些冷启动情况下，内容特征、可迁移的表示，以及对证据缺失的显式处理更有优势。可供选择的项目、语言或用户行为发生变化，会造成分布偏移，因此即使软件仍在正常运行，模型质量也可能下降。\n\n因此，监控需要分别跟踪多个方面：特征分布、缺失值比例、候选覆盖率、得分分布、线上服务故障以及用户端效果。点击量的变化可能源于模型更新、展示方式调整、流量变化或外部事件。对特征和模型实施版本管理、确保评估可复现，以及开展对照实验，都有助于区分这些原因。运维所针对的是整条排序流水线，而不只是赋予分数的函数。"
    },
    {
      "heading": "应用、列表层面的效用与尚未解决的问题",
      "text": "网页搜索是排序学习的典型应用，但不同领域的排序目标差异很大。商品搜索可能会将文本相关性与库存状况、交易相关信号结合起来。推荐系统为用户或某次会话中的项目排序，通常不需要文本查询。广告排序除了考虑预测的用户响应，还会纳入竞价和投放资格机制。在检索增强生成中，排序用于为语言模型挑选证据；一段相关的文本如果与其他段落重复，或无法支持正在生成的具体答案，仍可能没有帮助。\n\n这些应用凸显了单个项目的相关性与列表层面效用之间的差别。对于一个有歧义的查询，如果列表中的十篇优质文档都针对同一种解读，其实用性可能不如覆盖几种合理解读的列表。多样化方法在相关性与新颖性或意图覆盖之间寻求平衡。一个经典例子是最大边际相关性方法，它综合考虑项目与查询的相关性，以及该项目与已选项目之间的差异程度，据此选择项目。这类后处理与排序学习有关，但本身未必需要通过学习来实现。\n\n对集合的依赖给独立评分模型带来了挑战。如果选中一个项目后，另一个项目的边际价值随之改变，那么固定分数就无法充分表达排序目标。上下文感知的列表模型和序贯策略可以考虑这些交互作用，但也带来了更大的动作空间、更高的训练难度，以及对列表构建顺序的依赖。即使只是定义目标效用，也需要对用户如何查看和整合信息作出假设。\n\n公平性问题源于排序位置决定了曝光机会的分配。相关性相同的项目，如果排在较低位置，获得关注的机会就可能更少；而反复作出的排序决策既会影响用户，也会影响内容提供者。排序公平性研究涉及相关性、曝光以及群体或个体待遇的定义与约束。这些定义不能相互替代：曝光均等、曝光与估计价值成比例，以及预测性能相同，表达的是不同的要求。对这些指标的衡量，还取决于相关性估计的质量，以及数据所代表的人群。\n\n短期目标与长期目标可能相互冲突。最大化即时点击量可能会偏向吸引眼球的项目，而反复曝光又可能改变未来的偏好、可供展示的内容或商品，以及参与情况。长时域模型试图刻画这些影响，但结果的延迟显现和策略的不断变化，使归因变得困难。排序结果还会影响用于训练后续排序模型的数据，因此，只评估某一次静态部署，会遗漏重要的反馈动态。\n\n长期存在的研究难题包括：从不完整且有偏的评判中学习、将排序模型迁移到不同领域、处理新颖查询、降低神经模型推理的高昂成本，以及使替代损失与实际任务成效保持一致。当文档含有误导性材料，或含有针对自动评估器的指令时，鲁棒性尤为重要。排序系统必须区分两类文本：一类提供了有关项目实用性的证据，另一类仅仅试图影响其得分；语言模型能力的增强，本身并不能确保系统作出这种区分。"
    }
  ],
  "links": [
    "machine-learning",
    "information-retrieval",
    "recommender-system",
    "empirical-risk-minimization",
    "loss-function",
    "regularization",
    "sorting-algorithm",
    "supervised-learning",
    "training-data",
    "feature-engineering",
    "tf-idf",
    "bm25",
    "pagerank",
    "data-leakage",
    "average-precision",
    "normalized-discounted-cumulative-gain",
    "mean-reciprocal-rank",
    "test-set",
    "validation-set",
    "binary-classification",
    "boosting",
    "support-vector-machine",
    "backpropagation",
    "gradient-boosting",
    "xgboost",
    "lightgbm",
    "catboost",
    "representation-learning",
    "natural-language-processing",
    "transformer-architecture",
    "bert",
    "contrastive-learning",
    "knowledge-distillation",
    "large-language-model",
    "context-window",
    "variance",
    "reinforcement-learning",
    "causation",
    "inverted-index",
    "distribution-shift",
    "retrieval-augmented-generation"
  ],
  "sources": [],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}