多标签分类是一种机器学习任务,其中一个输入可以同时属于多个类别。例如,一篇新闻文章可以被标记为“政治”“经济”和“国际事务”,而一张照片可以被标记为“人”“自行车”和“街道”。在标准的监督学习框架下,模型通过与适用标签集合配对的样本进行学习,并为每个新输入预测一个标签集合。
多标签分类的核心特征是标签之间并不互斥。这使其区别于多分类:在多分类中,每个样本只能从多个备选类别中归入一个类别。多标签方法既要判断各个标签是否适用,也要在有帮助时考虑标签之间的关系。
形式化定义
设 为输入空间, 为包含 个标签的标签词表。多标签分类器学习如下映射:
其中, 表示 的所有子集构成的集合。根据具体应用,也可以允许标签集合为空。
每个目标集合都可以用一个二元指示向量表示:
这种表示通常称为多热表示,与只有一个分量为 1 的独热编码相对。
许多模型会先为每个标签输出一个分数 ,或估计其边际概率:
随后,决策规则将这些输出转换为标签集合。一种常见规则是:
其中, 是全局统一的阈值,或针对各个标签分别设置的阈值。
描述数据集的两个属性是:
- **标签基数:**每个样本所具有的正标签数量的平均值。
- **标签密度:**标签基数除以可用标签的总数。
这两个属性反映了任务难度的不同方面。对于包含数千个可能标签的数据集,即使每个样本都有若干个相关标签,其标签密度仍可能很低。
与其他学习任务的关系
在二分类中,目标是两个备选结果之一。多标签任务可以分解为多个二分类任务,但其整体输出是一个集合,而不是单个二元决策。
多分类和多标签分类有时容易混淆,因为二者都可能涉及许多类别。两者的区别在于类别是否互斥。将一份文档归入唯一的主要部门属于多分类;为文档赋予所有适用的主题标签则属于多标签分类。
多标签分类也不同于以下几种相关任务:
- 多输出分类的范围更广:每个输出都可以有各自的取值集合,而不一定是表示标签是否存在的二元指示值。
- 标签排序按相关程度对标签进行排序,但不一定判定哪些标签实际存在。
- 层次分类将类别组织为分类层级体系,既可以是单标签分类,也可以是多标签分类。
- 结构化预测对具有内部依赖关系的输出进行建模。如果显式表示标签之间的关系,就可以将多标签分类视为结构化预测问题。
多标签图像分类预测图像中出现了哪些类别,但不定位单个物体。目标检测还会预测物体的位置,而分割则为图像区域赋予类别或身份标识。
主要建模方法
二元关联
二元关联为每个标签训练一个二分类器:
最终预测由这些分类器的输出组合而成。各个分类器可以采用支持向量机、决策树学习或逻辑回归等方法。
二元关联简单、模块化,而且易于并行处理。其主要局限在于,对一个标签的预测并不显式依赖其他标签。
有时,人们会将这一局限过度解读为该方法要求标签相互独立。实际上,即使标签在统计上存在依赖关系,对于汉明损失这类可加性目标,逐标签独立决策仍可能是最优的。二元关联所缺少的是一种显式机制,用来利用这些依赖关系改善联合决策,或在标签之间共享信息。
分类器链
分类器链先对标签排序,再利用输入和前面的标签逐一预测各个标签:
这种分解可以表示标签之间的依赖关系。在常规训练中,前面标签的真实值被用作特征;在顺序预测时,则改用前面的预测值。
分类器链可以利用“海滩”和“大海”经常共同出现之类的规律,但其表现取决于标签顺序。前面出现的错误预测也可能影响后续决策。分类器链集成采用多种标签顺序,以降低对单一顺序的敏感性。精确搜索概率最高的标签向量可能代价高昂,因此实际系统往往采用贪心推断或近似推断。
标签幂集
标签幂集变换将训练中观察到的每一种不同标签组合视为一个多分类类别。例如, 和 会成为两个不同的类别。
这种方法直接保留了观察到的标签组合,但可能的组合数量为 。许多组合可能只有很少的训练样本,而且基本方法无法将未见过的组合作为新类别输出。一些变体会在较小的标签子集上训练,或组合多个变换后的问题。
算法适配与神经网络模型
另一些方法通过改造算法来直接输出多个标签。例如,基于近邻的方法根据邻近样本估计标签的相关程度;基于树的方法则在叶节点中保存标签向量或标签分布。
在深度学习中,一种常见架构是在共享表示网络后连接 个输出单元。每个输出通常使用 sigmoid 函数:
与 softmax 输出不同,这些概率不受总和为 1 的约束,因此多个标签可以同时获得较高概率。所以,对于不限制标签组合的多标签分类,通常不宜仅使用 softmax 进行输出归一化。
共享表示可以在标签之间传递有用信息,而无须显式建模标签的联合分布。更复杂的模型会使用标签嵌入、图结构、注意力机制或序列解码器。在文本应用中,基于 Transformer架构的编码器可以为多标签预测提供文档表示。
训练目标与决策规则
一种广泛使用的损失函数是二元交叉熵之和或其平均值:
这一目标使每个输出学习估计相应标签的边际概率,但它本身并未规定应如何选择最终的标签集合。
对于经过校准的边际概率,如果采用逐标签可加的决策目标,且假阳性与假阴性的代价相同,那么阈值 是合适的。但它并非在所有情况下都是最优选择。不同的错误代价、标签频率或评估指标可能使其他阈值更合适。
常见决策策略包括:
- **全局阈值法:**所有标签使用同一个阈值。
- **逐标签阈值法:**为每个标签分别设置阈值。
- **Top- 选择:**预测得分最高的 个标签。
- **标签基数预测:**先估计有多少个标签适用,再选出相应数量的标签。
- **约束解码:**强制满足某些要求,例如分类层级体系中的父子类别一致性。
除非另行预测 ,否则 Top- 选择会固定输出标签的数量。当不同样本的相关标签数量差异很大时,这种做法可能并不合适。
阈值和其他超参数应使用验证集选择,而不能使用最终的测试集。在查看测试表现后再选择阈值会造成数据泄漏(机器学习),使报告的结果过于乐观。
评估
没有任何单一指标能够全面反映多标签分类的表现。不同指标侧重衡量不同类型的正确性。
完全匹配准确率
完全匹配准确率也称为子集准确率,要求一个样本的每个标签预测决策都正确:
这一指标非常严格:即使其他预测都正确,只要漏掉或多加一个标签,该样本就不得分。它衡量整个标签集合是否完全正确,但在标签词表很大时,其数值可能较低。
汉明损失
汉明损失衡量所有单独的标签决策中错误决策所占的比例:
它对每个标签决策一视同仁。在稀疏数据集中,由于大多数标签指示值为负,即使不预测任何标签,也可能得到看似很低的汉明损失,造成误导。
精确率、召回率与 F 分数
精确率衡量预测为正的结果中有多少是正确的;召回率衡量所有实际正例中有多少被成功识别。二者的调和平均值为:
对于多标签数据,采用哪种平均方式十分重要:
- 微平均先汇总所有标签上的真阳性、假阳性和假阴性数量,再计算指标。常见标签的影响更大。
- 宏平均分别计算每个标签的指标,再对结果取等权平均。它赋予稀有标签相同的权重,但当这些标签的支持样本数很少时,结果可能不稳定。
- 加权宏平均按各标签的支持样本数对标签级结果加权。
- 基于样本的平均先为每个样本计算指标,再对所有样本取平均。
基于样本的 Jaccard 分数衡量预测集合与真实集合之间的交并比:
对于涉及空集或分母为零的情况,必须明确说明处理约定。
排序指标
当分数本身很重要,而不只是用于某个选定阈值下的判断时,排序指标就很有用。平均精度鼓励将相关标签排在不相关标签之前。其他指标还包括前 项精确率、前 项召回率和排序损失。
对于一个固定样本,排序指标可以比较不同标签的排序;对于一个固定标签,排序指标也可以比较不同样本的排序。这是两种不同的评估维度,因此报告必须说明采用的是哪一种。
数据挑战与局限
不平衡与稀有标签
多标签数据集往往既包含常见标签,也包含大量呈长尾分布的稀有标签。模型可能整体表现良好,却无法正确处理低频类别。类别加权损失、重采样、共享表示和迁移学习都可能有所帮助,但其效果取决于数据集和评估目标。
加权也可能改变输出分数的含义或校准情况。排序表现更好,并不一定意味着分数能准确表示概率。
缺失与不确定的标注
缺少某个标签的标注,并不总是意味着该标签不适用。标注者可能遗漏相关标签,数据集也可能只记录部分已知的正标签。将所有未记录的标签都视为负标签,会使训练和评估产生偏差。
如果已知各项的标注状态,可以在损失计算中屏蔽未知项。其他情形则需要对标签缺失的机制作出假设。这些问题不同于标注完整的多标签分类,通常无法仅靠改变决策阈值来解决。
标签依赖
标签可能因语义关系、因果关系、标注惯例或数据集特有的伪相关而共同出现。对依赖关系建模可能改善预测,但相关性在分布偏移下不一定保持稳定。
例如,系统可能学到两个主题通常共同出现,却在其中一个主题单独出现时预测失败。强制满足真实的分类层级约束,与将频繁共现视为必然规律,是不同的做法。
规模
在极端多标签分类中,标签词表可能包含数十万乃至数百万个标签。对每个输入的所有标签逐一评分可能代价高昂,而稀有标签的训练数据又可能极少。
常见策略包括以层次结构组织标签、标签嵌入、候选检索和稀疏输出。基于检索的系统先选出规模可控的候选集合,再对这些候选进行排序或分类。其最终召回率受到候选选择阶段所保留的相关标签数量的限制。
应用与发展
早期的多标签研究与文档分类密切相关,因为文本天然可能涉及多个主题。此后,该领域扩展到了图像标注、音频标签标注、生物功能预测和大规模内容组织等方向。
在自然语言处理中,相关应用包括为文档和消息赋予主题、意图或内容属性。在计算机视觉中,多标签模型识别图像中存在的类别,但不一定定位每个实例。音频系统利用这类模型描述相互重叠的声音事件或多种音乐属性。信息检索系统则使用相关方法分配类别,改善搜索结果的组织方式。
共享神经网络表示的发展,使对众多标签进行联合学习变得切实可行。不过,二元关联仍是一项重要的基线方法,因为它简单直接、易于扩展,有时也与评估目标十分契合。比较多标签方法时,不仅要考虑模型架构,还要考虑标注完整性、标签频率、阈值选择以及对预测质量的定义。