怎样评价FAIR的最新工作Panoptic Segmentation

图像分割主要有两个方向:
语义分割(semantic segmentation),常用来识别天空、草地、道路等没有固定形状的不可数事物(stuff)。语义分割的标记方法通常是给每个像素加上标签。实例分割(instance segmentation),人、动物或工具等可数的、独立的明显物体(things)。实例分割通常用包围盒或分割掩码标记目标。全景分割(Panoptic Segmentation)其实就是把这两个方向结合起来,生成统一的、全局的分割图像,既识别事物,也识别物体。
怎样评价FAIR的最新工作Panoptic Segmentation

(a)原图;(b)语义分割;(c)实例分割;(d)全景分割标记方法全景分割的标记方法结合了语义分割和实例分割,给每个像素加上标签 怎样评价FAIR的最新工作Panoptic Segmentation
,其中i表示第i个像素,l表示语义类别,z表示实例ID。语义类别由两部分组成,事物类别 怎样评价FAIR的最新工作Panoptic Segmentation
和物体类别 怎样评价FAIR的最新工作Panoptic Segmentation
(ST和TH分别为stuff和thing的简写)。当 怎样评价FAIR的最新工作Panoptic Segmentation
时,忽略 怎样评价FAIR的最新工作Panoptic Segmentation
(识别事物);当 怎样评价FAIR的最新工作Panoptic Segmentation
怎样评价FAIR的最新工作Panoptic Segmentation
时,该像素属于某一物体(识别物体)。
评估标准首先是常规的IoU \u0026gt; 0.5,然后结合TF、FN、FP搞出了一个PQ标准。(PQ是Panoptic Quality,即全景质量的简称。)
怎样评价FAIR的最新工作Panoptic Segmentation

颜色相同的区域IoU \u0026amp;gt; 0.5PQ的具体公式为:
怎样评价FAIR的最新工作Panoptic Segmentation

另外,PQ可以分解为分割质量(segmentation quality,SQ)和识别质量(recognition quality,RQ)的乘积,便于进一步评估分割和识别环节的表现。
怎样评价FAIR的最新工作Panoptic Segmentation

PQ = SQ * RQ怎样评价FAIR的最新工作Panoptic Segmentation

人类全景分割的表现(PQ、SQ、DQ)数据集全景分割数据集需要既有语义分割标注,也有实例分割标注。
Cityscapes:5000张街景图片,97%的图片有像素标注,共有19个类别,其中8个类别符合语义分割的特征; ADE20k:图像总量超过25000张,并经过公开标注。其中包括100种物体和59种事物。 Mapillary Vistas:25000张分辨率不同的街景照片。其中98%的图片都经过了像素标注,涵盖28种事物与37种物体。COCO:知名数据集COCO最近加入了全景分割标注。论文arXiv:1801.00868

■网友
上出的还真是快,标题终于不再是kaiming的xx了哈哈看了3分钟,这篇文章大概就是定义清楚了seg问题abc,然后c=a+b.....好了不看了
■网友
【怎样评价FAIR的最新工作Panoptic Segmentation】 挖坑论文?


    推荐阅读