计算机视觉基础（11）——语义分割和实例分割
前言
在这节课，我们将学习语义分割和实例分割。在语义分割中，我们需要重点掌握语义分割的概念、常用数据集、评价指标（IoU）以及经典的语义分割方法（Deeplab系列）；在实例分割中，需要知道实力分割可以近似看为“目标检测+语义分割”，需要知道Mask R-CNN方法的计算流程，以及评价指标mAP。
一、语义分割
1.1 分割类任务的定义
分割类任务是一种密集标注任务，即将图像中每个像素赋予一个语义或者实例标签。
1.2 语义分割的应用场景
- 无人驾驶
- 机器人
- 医学图像
- ……
1.3 常用数据集
1.3.1 Pascal VOC Dataset
VOC数据集是计算机视觉主流数据集之一，由牛津大学、比利时鲁汶大学等高校的视觉研究组联合发布，可以用作分类，分割，目标检测，动作检测和人物定位五类任务，包含21个类别标签，训练1464，验证1449，测试1456。
1.3.2 MS COCO Dataset
MS COCO（Microsoft Common Objects in Context Dataset）是微软发布的一个大规模物体检测，分割及文字定位数据集，支持目标检测、实例分割、全景分割、Stuff Segmentation、关键点检测、看图说话等任务类型，包含80个对象类别。
1.3.3 ADE20K Dataset
ADE20K数据集由 MIT CSAIL 研究组发布，涵盖广泛的场景和对象类别，可用于场景感知、解析、分割、多物体识别和语义理解。该数据集构建了一个场景解析基准，包含150个对象和素材类。
1.3.4 CityScapes Dataset
CityScapes是由奔驰自动驾驶实验室、马克思·普朗克研究所、达姆施塔特工业大学联合发布的图像数据集，专注于对城市街景的语义理解。 该数据集包含50个城市不同场景、不同背景、不同街景，以及30类涵盖地面、建筑、交通标志、自然、天空、人和车辆等的物体标注，共有5000张精细标注的图像和2万张粗略标注的图像。
1.4 评价指标（重点）
平均交并比 (mean Intersection over Union, mIoU) ——每个类别的所有像素去计算交并比
1.5 语义分割方法
1.5.1 基于滑动窗的提取图像块后分类
基于滑动窗提取图像块然后对图像块的中心进行分类
1.5.2 用CNN计算整幅图的特征
用CNN计算整幅图的特征，然后在其上进行标签预测
1.5.3 全卷积网络
【方案一】
设计只含有卷积层而没有降采样操作的神经网络，这样可以同时对所有像素进行标签预测
【方案二】
设计包含卷积层、下采样操作和上采样操作的神经网络。
下采样操作：可以通过池化和加大卷积步长来实现
上采样操作：可以通过插值、逆池化和转置卷积来实现
【插值】
【逆池化】
【转置卷积】
【上采样结构总结】
【U-Net】
1.5.4 DeepLab系列
【Deeplab V1】
【Deeplab V2】
【Deeplab V3】
【Deeplab V3+】
1.5.5 PSPNet
1.5.6 HRNet
二、实例分割
2.1 实例分割的概念
实例分割 可以近似看为 目标检测 + 语义分割
2.2 Mask R-CNN
2.3 评价指标（重点）
2.4 实例分割效果
总结
在本文中，我们学习了语义分割和实例分割，需要清楚二者的区别，并掌握二者的算法流程，需要重点关注语义分割和实例分割的方法举例和评价指标。