当前位置：首页 > news >正文

【多模态】20、OVR-CNN | 使用 caption 来实现开放词汇目标检测

news 2025/8/13 13:10:42

在这里插入图片描述

论文：Open-Vocabulary Object Detection Using Captions

代码：https://github.com/alirezazareian/ovr-cnn

出处：CVPR2021 Oral

一、背景

目标检测数据标注很耗费人力，现有的开集大型数据，如 Open Images 和 MSCOCO 数据集大约包含 600 个数据类别

如果想要识别现实世界中的任何物体，则需要更多的人工数据标注

但人类学习显示视觉世界中的物体很大程度上是基于语言的监督信号，也可以使用几个简单的例子来泛化到其他目标上，而不需要所有的目标实例。

所以在本文中，作者模仿人类的能力，设计了一个双阶段开集目标检测 Open-Vocabulary object Detection（OVD）

图 2 展示了几种非常相近的任务的差别：

大体框架结构如图 1 所示：

在这里插入图片描述

图 3 展示了详细的结构：

本文方法基于 Faster R-CNN，在基础类别上进行训练，在目标类别上进行测试
预训练：为了避免在基础类别上过拟合，作者在大量词汇量 $V_C$ 下进行了预训练（上半部分），让模型能够学习到更全面的语义信息，而不是只有基础类别的语义信息。即在 image-caption pairs 上通过 grounding、masked language modeling (MLM) 、 image-text matching 来训练 ResNet 和 V2L layer，V2L layer 是 vision2language 模块，负责将视觉特征变换到文本空间，好让两个不同模态的特征能在同一空间来衡量相似性。
训练：预训练后使用得到的 ResNet 和 V2L layer 来初始化 Faster R-CNN ，以此来实现开放词汇目标检测，ResNet 50 用于 backbone，V2L layer 是会用于对每个 proposal 特征进行变换的，变换之后会与类别标签的文本特征计算相似度来进行分类的，训练的时候会固定 V2L layer 的，使其学习到的广泛的信息能够泛化到新类
整个模型框架和 Faster RCNN 一样，只是将最后的 cls head 替换成了 V2L，也就是换成了一个将 visual feature 投影到 text embedding space 的投影矩阵

在这里插入图片描述

本文提出了一个 Vision to Language（V2L）映射层，和 CNN 一起在预训练中进行学习，使用 grounding 任务和和一些辅助自监督任务来训练 CNN 和 V2L layer。

输入：image-caption pairs
特征提取：image 输入 visual backbone（ResNet50），caption 输入 language backbone（BERT），分别提取对应的特征
特征融合：将两种特征输入多模态特征融合器中，来抽取多模态的 embedding
目标：让每个 caption 的 word embedding 和其对应的图像区域更加接近，且作者设定了一个 global grounding score 来度量其关系，成对儿的 image-caption 得分要最大，不成对儿的 image-caption 得分要小
负样本对儿：作者使用同一个 batch 中的其他图像作为每个 caption 的negative examples，也使用同一 batch 中的其他 caption 作为每个 image 的 negative examples
grounding objective functions 如下：
最终的 loss:

在完成 ResNet 和 V2L 的预训练后，作者要把其学习到的东西迁移到 object detection 上，方式就是用训练后的特征来初始化 Faster R-CNN

首先，使用经过预训练的 ResNet50 的 stem 和前 3 个 block 来抽取图像特征
然后，使用 region proposal network 来预测目标可能出现的位置和 objectness score，并且使用 NMS 和 RoI pooling 来得到每个目标框
之后，给每个 proposal 使用 ResNet50 的第 4 个 block （和一个 pooling）来提取每个 proposal 的最终特征
最终，对比每个 proposal 被编码到 word space 中的特征和基础类别 k 的得分