概念漂移是指机器学习系统用于预测的统计关系随时间发生变化。当生成新观测数据的过程发生变化时,从历史观测中学得的模型可能不再那么准确。狭义上,这一术语指输入与预测目标之间的关系发生变化;广义上,则指两者的联合概率分布发生变化。对于持续运行的系统,概念漂移尤为重要,因为历史训练数据所反映的条件可能已无法描述当前状况。
统计表述
在监督学习中,设 表示输入变量, 表示目标, 表示两者在时间 的联合分布。按照广义定义,当以下条件成立时,就发生了概念漂移:
这一定义关注的是底层分布的变化,而不仅仅是有限样本之间的差异。即使生成数据的过程保持不变,从中抽取的两个样本通常也会因抽样变异而有所不同。
联合分布可以分解为:
这一分解将输入分布的变化与目标依赖于输入的方式的变化区分开来。
在一种常见的狭义用法中,概念漂移特指:
例如,随着购买行为和欺诈策略发生变化,一笔具有相同测量特征的交易,其属于欺诈交易的概率可能升高,也可能降低。
模型的性能既取决于数据分布,也取决于所采用的评价准则。对于预测器 ,其随时间变化的期望风险为:
其中, 是损失函数。分布变化可能增大这一风险,也可能使其大致不变,甚至降低风险。因此,漂移并不一定意味着性能下降,尽管性能下降是监测漂移的主要原因之一。
相关的分布偏移形式
概念漂移属于更广泛的分布偏移研究范畴。不同研究领域和监测系统使用的术语有所差异,因此有必要区分以下几种情况。
| 变化类型 | 定义特征 | 主要影响 |
|---|---|---|
| 协变量偏移 | 发生变化,而 保持不变 | 模型遇到的输入在比例或所处分布区域上发生变化 |
| 条件漂移或真实概念漂移 | 发生变化 | 先前学得的输入与目标之间的关系可能过时 |
| 标签偏移 | 发生变化,而 保持不变 | 在特定的类条件分布稳定性假设下,各类别的占比发生变化 |
| 一般联合分布漂移 | 发生变化,且不作其他限制 | 多种变化可能同时发生 |
发生变化而 不变的情况,有时被称为虚拟漂移,这一用法在流式学习文献中尤为常见。如果这类变化使模型误差较大的区域获得更多概率质量,仍然可能影响总体性能。
标签偏移并不只是标签频率变化的另一种说法。对于专门针对标签偏移设计的方法, 保持不变这一假设至关重要。标签偏移也可能改变后验分布 ,因此这些类别并非全部互斥。
概念漂移不同于记录损坏、字段缺失或计量单位错误等数据质量问题。这些问题可能产生相似的监测信号,却并不反映所建模的外部现象发生了变化。同样,将模型部署到不同人群中属于分布偏移,但不一定涉及任一人群内部随时间发生的变化。
时间模式
人们通常根据漂移的演变方式进行描述:
- **突变漂移:**相对于观测的时间尺度,数据生成过程在很短的时间内发生变化。
- **渐变漂移:**在过渡阶段,旧状态和新状态产生的观测同时存在,两者的相对频率不断变化。
- **增量漂移:**分布经过一系列中间状态逐步变化。
- **复现漂移:**先前出现过的状态再次出现,例如季节性需求或反复出现的运行条件。
这些描述取决于时间分辨率,尚未完全标准化。某种变化在按日汇总的数据中可能表现为突变,但在逐分钟的测量数据中却可能表现为渐变。
漂移还可以分为全局漂移和局部漂移。某种关系可能在整个输入空间中发生变化,也可能只在特定产品、地区、客户群体或运行范围内发生变化。如果受影响的子群体较小,局部漂移可能难以通过总体指标识别。
反复出现的模式不一定不可预测。纳入相关的季节性变量或情境变量后,一个稳定的条件模型就可能表示多种表面上不同的状态。因此,一个过程是否表现出概念漂移,部分取决于观测了哪些变量,以及将哪些变量纳入预测任务。
发展与应用
关于学习变化概念的研究在20世纪80年代与增量学习一同发展,后来成为数据挖掘和流处理的重要课题。传统批量学习通常假设训练数据和未来观测来自稳定的分布;与之不同,流式学习将观测视为不断演变的序列,并且往往需要在内存和处理时间有限的条件下运行。
应用包括:
- **欺诈检测与网络安全:**攻击者和正常用户的行为会发生变化。
- **推荐系统:**用户兴趣、可推荐的物品以及交互行为不断演变。
- **工业监测:**设备磨损、维护和运行条件会改变传感器数据之间的关系。
- **需求预测:**价格、季节性影响、促销活动和购买模式会发生变化。
- **自然语言处理:**词汇、话题和语言使用模式不断演变。
在这些场景中,变化可能来自系统外部,也可能部分源于系统自身的运行。例如,推荐系统会影响用户看到哪些物品,进而影响哪些交互数据能够用于未来的训练。
漂移检测
漂移检测利用观测证据,将过程变化与普通随机波动区分开来。没有任何一种检测器适用于所有形式的漂移。
预测性能监测
当目标标签可用时,系统可以监测分类错误、回归残差、预测损失或概率校准情况。持续的变化可能表明,已经学得的关系不再适用。
漂移检测方法(Drift Detection Method,通常简称 DDM)跟踪分类错误率及其估计变异程度。ADWIN 是 Adaptive Windowing(自适应窗口)的缩写,它维护一个长度可变的窗口,并检验窗口中较早部分与较新部分的均值是否存在足够大的差异。这类方法检测的是被监测序列中的变化,本身并不能识别其根本原因。
性能监测受到标签可用性的限制。欺诈结果、设备故障等目标可能要经过相当长的延迟才能观测到。标签也可能只在部分选定案例中可用,导致测得的性能缺乏代表性。
输入与输出监测
在没有标签的情况下,可以通过监测来比较以下数据的近期分布与参考分布:
- 各个输入变量;
- 缺失值比例和类别频率;
- 多变量表示;
- 模型评分和预测类别。
所用方法包括统计双样本检验、分布距离度量,以及训练分类器来区分参考观测与近期观测。
这些方法检测的是可观测分布发生变化的证据,不一定是 发生变化的证据。纯粹的条件分布变化可能在输入分布不变的情况下发生,因此,若无额外假设,仅凭无标签的输入观测无法确认这种变化。
检测中的权衡
检测器需要在误报与检测延迟之间取得平衡。提高灵敏度可能更早发现细微变化,但也可能对噪声、季节性变化或重复检验作出反应。较大的窗口能提供更多证据,却可能冲淡短暂或局部变化的信号。
时间依赖性会给假设观测相互独立的检验带来困难。大样本量还可能使实际运行中微不足道的变化呈现出统计显著性。因此,漂移的统计证据与漂移的实际影响是两个不同的问题。
模型适应
检测与适应是不同的环节。系统可以检测到漂移而不更新预测器,也可以在没有明确漂移警报的情况下持续更新。
窗口与遗忘
模型可以使用近期观测构成的滑动窗口重新训练,并丢弃更早的数据。另一种做法是给较早的观测赋予逐步减小的权重,例如:
较小的 会使近期观测得到更高的相对权重。这两种方法都需要在历史数据覆盖程度、统计稳定性与响应速度之间作出权衡。保留过多历史数据可能使过时的关系继续发挥作用;保留过少则可能导致估计不稳定,或遗漏罕见但重要的案例。
增量更新与重新训练
增量模型会随着观测到来而更新参数。批处理系统则可能定期重新训练,或在出现变化信号后重新训练。只更新模型的一部分、调整概率校准或改变决策阈值,都可以应对某些变化,但这些操作并不等价:调整阈值通常无法修复已经过时的输入与目标之间的关系。
更新还会带来灾难性遗忘的风险,即模型在适应近期条件时,丧失了在早期条件再次出现时所需的能力。
集成方法与复现状态
集成学习方法可以保留在不同时期或不同状态下训练的模型,并随着条件变化调整其权重。当先前的状态再次出现时,保存下来的模型有时可以重新使用。
基于迁移学习或域适应的方法可以在不同条件之间复用知识。其有效性取决于对哪些关系仍可迁移的假设;当这些假设不成立时,历史信息反而可能有害。
评估
评估必须保留任务的时间结构。将较早和较晚的观测随机混合,可能使未来条件影响训练,从而得到不切实际的乐观估计。如果特征构建使用了预测时本不可能获得的信息,就可能造成数据泄漏(机器学习)。
常见的评估设计包括:
- **按时间顺序留出评估:**使用较早的观测训练,并在较晚的测试集上评估。
- **滚动起点评估:**随时间推进训练与评估的边界。
- **预测序贯评估:**先对每条观测进行预测,再使用其标签进行学习,也称为先测试后训练评估。
贴近实际的评估应复现标签延迟和更新计划。在实验中能够立即根据结果学习的模型,可能拥有部署时无法获得的优势。
相关指标包括随时间变化的预测质量、检测延迟、误报频率、变化后的恢复情况、内存占用、计算成本和子群体性能。合成数据流可以提供可控的变化点,而真实数据流更贴近实际,但往往缺少能明确判定漂移何时发生、为何发生的真实依据。
局限与解读
概念漂移是一种统计描述,而不是因果诊断。同一种观测变化,可能源于行为改变、传感器更换、标签标注规则修订、人群更替或软件缺陷。数据血缘和运行变更记录有助于区分这些解释。
性能下降并不能证明发生了概念漂移:抽样变异、实现故障或评估方式变化也可能导致性能下降。反过来,平均性能稳定也不能证明过程没有变化,因为某些群体的改善可能掩盖其他群体的恶化。
模型适应也受到可用信息的限制。如果只能观测到当前模型选中案例的结果,所获得的标签可能无法反映整个总体上的性能。当预测会影响未来观测时,反馈效应可能使漂移检测和评估都变得更加困难。因此,可靠的解读取决于观测过程、目标的定义,以及将历史数据与当前条件联系起来的假设。