计算机视觉基础(11)——语义分割和实例分割

评论: 0 浏览: 1340 ***新更新时间: 2个月前

前言

在这节课,我们将学习语义分割和实例分割。在语义分割中,我们需要重点掌握语义分割的概念、常用数据集、评价指标(IoU)以及经典的语义分割方法(Deeplab系列);在实例分割中,需要知道实力分割可以近似看为“目标检测+语义分割”,需要知道Mask R-CNN方法的计算流程,以及评价指标mAP。

一、语义分割

1.1  分割类任务的定义

分割类任务是一种密集标注任务,即将图像中每个像素赋予一个语义或者实例标签。

计算机视觉基础(11)——语义分割和实例分割

计算机视觉基础(11)——语义分割和实例分割

计算机视觉基础(11)——语义分割和实例分割

1.2  语义分割的应用场景

  • 无人驾驶
  • 机器人
  • 医学图像
  • ……

    计算机视觉基础(11)——语义分割和实例分割

    1.3  常用数据集

    1.3.1  Pascal VOC Dataset

    VOC数据集是计算机视觉主流数据集之一,由牛津大学、比利时鲁汶大学等高校的视觉研究组联合发布,可以用作分类,分割,目标检测,动作检测和人物定位五类任务,包含21个类别标签,训练1464,验证1449,测试1456。

    计算机视觉基础(11)——语义分割和实例分割

    1.3.2  MS COCO Dataset

    MS COCO(Microsoft Common Objects in Context Dataset)是微软发布的一个大规模物体检测,分割及文字定位数据集,支持目标检测、实例分割、全景分割、Stuff Segmentation、关键点检测、看图说话等任务类型,包含80个对象类别。

    计算机视觉基础(11)——语义分割和实例分割

    1.3.3  ADE20K Dataset

    ADE20K数据集由 MIT CSAIL 研究组发布,涵盖广泛的场景和对象类别,可用于场景感知、解析、分割、多物体识别和语义理解。该数据集构建了一个场景解析基准,包含150个对象和素材类。

    计算机视觉基础(11)——语义分割和实例分割

    1.3.4  CityScapes Dataset

    CityScapes是由奔驰自动驾驶实验室、马克思·普朗克研究所、达姆施塔特工业大学联合发布的图像数据集,专注于对城市街景的语义理解。 该数据集包含50个城市不同场景、不同背景、不同街景,以及30类涵盖地面、建筑、交通标志、自然、天空、人和车辆等的物体标注,共有5000张精细标注的图像和2万张粗略标注的图像。

    计算机视觉基础(11)——语义分割和实例分割

    1.4  评价指标(重点)

    平均交并比 (mean Intersection over Union, mIoU) ——每个类别的所有像素去计算交并比

    计算机视觉基础(11)——语义分割和实例分割

    1.5  语义分割方法

    1.5.1  基于滑动窗的提取图像块后分类

    基于滑动窗提取图像块然后对图像块的中心进行分类

    计算机视觉基础(11)——语义分割和实例分割

    1.5.2  用CNN计算整幅图的特征

    用CNN计算整幅图的特征,然后在其上进行标签预测

    计算机视觉基础(11)——语义分割和实例分割

    1.5.3  全卷积网络

    【方案一】

    设计只含有卷积层而没有降采样操作的神经网络,这样可以同时对所有像素进行标签预测

    计算机视觉基础(11)——语义分割和实例分割

    【方案二】

    设计包含卷积层、下采样操作和上采样操作的神经网络。

    下采样操作:可以通过池化和加大卷积步长来实现

    上采样操作:可以通过插值、逆池化和转置卷积来实现

    计算机视觉基础(11)——语义分割和实例分割

    【插值】

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    【逆池化】

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    【转置卷积】

    计算机视觉基础(11)——语义分割和实例分割

    【上采样结构总结】

    计算机视觉基础(11)——语义分割和实例分割

    【U-Net】

    计算机视觉基础(11)——语义分割和实例分割

    1.5.4  DeepLab系列

    【Deeplab V1】

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    【Deeplab V2】

    计算机视觉基础(11)——语义分割和实例分割

    【Deeplab V3】

    计算机视觉基础(11)——语义分割和实例分割

    【Deeplab V3+】

    计算机视觉基础(11)——语义分割和实例分割

    1.5.5  PSPNet

    计算机视觉基础(11)——语义分割和实例分割

    1.5.6  HRNet

    计算机视觉基础(11)——语义分割和实例分割

    二、实例分割

    2.1  实例分割的概念

    实例分割 可以近似看为 目标检测 + 语义分割

    计算机视觉基础(11)——语义分割和实例分割

    2.2  Mask R-CNN

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    2.3  评价指标(重点)

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    2.4  实例分割效果

    计算机视觉基础(11)——语义分割和实例分割

    计算机视觉基础(11)——语义分割和实例分割

    总结

    在本文中,我们学习了语义分割和实例分割,需要清楚二者的区别,并掌握二者的算法流程,需要重点关注语义分割和实例分割的方法举例和评价指标。


发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

点击启动AI问答
Draggable Icon