融合Image-Text和Image-Label两种数据的多模态训练新方式-电子发烧友网

目前CV领域中包括两种典型的训练模式，第一种是传统的图像分类训练，以离散的label为目标，人工标注、收集干净、大量的训练数据，训练图像识别模型。第二种方法是最近比较火的基于对比学习的图文匹配训练方法，利用图像和其对应的文本描述，采用对比学习的方法训练模型。这两种方法各有优劣，前者可以达到非常高的图像识别精度、比较强的迁移能力，但是依赖人工标注数据；后者可以利用海量噪声可能较大的图像文本对作为训练数据，在few-shot learning、zero-shot learning上取得很好的效果，但是判别能力相比用干净label训练的方法较弱。今天给大家介绍一篇CVPR 2022微软发表的工作，融合两种数据的一个大一统对比学习框架。

论文题目：Unified Contrastive Learning in Image-Text-Label Space

下载地址：https://arxiv.org/pdf/2204.03610.pdf

CVPR 2022微软发表的这篇工作，希望同时利用图像、文本、label三者的信息，构建一个统一的对比学习框架，同时利用两种训练模式的优势。下图反映了两种训练模式的差异，Image-Label以离散label为目标，将相同概念的图像视为一组，完全忽视文本信息；而Image-Text以图文对匹配为目标，每一对图文可以视作一个单独的label，文本侧引入丰富的语义信息。

两种数据的融合

上面所说的Image-Label和Image-Text两种数据，可以表示成一个统一的形式：（图像，文本，label）三元组。其中，对于Image-Lable数据，文本是每个label对应的类别名称，label对应的每个类别的离散标签；对于Image-Text数据，文本是每个图像的文本描述，label对于每对匹配的图文对都是不同的。将两种数据融合到一起，如下图右侧所示，可以形成一个矩阵，填充部分为正样本，其他为负样本。Image-Label数据中，对应类别的图文为正样本；Image-Text中对角线为正样本。

损失函数

在上述矩阵的基础上，可以利用对比学习的思路构建融合Image-Label和Image-Text两种数据优化函数。对于一个batch内的所有样本，分别使用图像Encoder和文本Encoder得到图像和文本的表示，并进行归一化，然后计算图像文本之间的相似度，和CLIP类似。其中Image-to-Text损失函数可以表示为：

以样本i（文本）为中心，k表示当前batch内，和样本i的label相同的图像，j表示batch内所有其他样本。也就是说，对于每个文本，损失函数的分子是和该文本匹配的图像，分母是batch内所有图像。Text-to-Image损失函数也类似。最终BiC loss是二者之和：

与其他损失函数的对比

BiC loss和交叉熵、Supervised Contrast以及CLIP三种方法的损失函数差别如下图所示，这几种损失函数之间存在着一定的联系。

与交叉熵损失的关系：如果text encoder只是一个普通的全连接，并且batch size相比类别数量足够大，以至于一个batch内所有类别的样本都出现过，那么BiC和交叉熵等价。因此BiC相比交叉熵更具一般性，BiC让具有相似文本描述的图像表示形成类簇，不具有相似文本描述的图像被拉远。文本侧也更加灵活，能够使用任意种类的文本输入，结合更丰富的文本Encoder联合学习。

与SupCon的关系：SupCon是图像对比学习，训练数据每对pair都是图像，共用一个Encoder；而BiC针对的是跨模态对比学习，图片和文本跨模态对齐。但是两者的核心思路都是根据有label数据，将batch内出现样本更多置为正样本。

与CLIP的关系：和CLIP的主要差别在于，利用label信息将一部分非对角线上的元素视为正样本。如果这里不使用Image-Label数据，那么就和CLIP相同。

实验效果

图像分类效果对比：相比使用交叉熵损失和有监督对比学习，文中提出的UniCL在多个模型和数据集上取得较好的效果。尤其是在小数据集上训练时，UniCL比交叉熵训练效果提升更明显，因为引入的图文匹配方式让具有相似语义图像聚集在一起，缓解了过拟合问题。

文本Encoder和损失函数对比：文中也对比了文本Encoder是否引入的效果，如果将Transformer替换成线性层，效果有所下降，表明文本Encoder的引入能够帮助模型学习到1000多个类别之间的关系文本语义关系，有助于提升图像分类效果。同时，如果去掉i2t的loss只保留t2i的loss，会导致效果大幅下降。