深度学习语义分割篇——FCN原理详解篇
作者简介：秃头小苏，致力于用最通俗的语言描述问题
往期回顾：目标检测系列——开山之作RCNN原理详解 目标检测系列——Fast R-CNN原理详解
目标检测系列——Faster R-CNN原理详解近期目标：写好专栏的每一篇文章
支持小苏：点赞、收藏⭐、留言
没想到今天是创作两周年，必须浅浅更新一篇⛳⛳⛳
深度学习语义分割篇——FCN原理详解篇
写在前面
在过往的博客中，我已经介绍了几种经典神经网络（VGG、GoogleNet、Resnet等等）在图像分类上的应用，这些都是非常基础却重要的内容，大家务必要掌握，不了解的可以进入个人主页搜索了解详情。在目标检测方面，我有讲解过yolo系列的原理，点击☞☞☞了解详情。但是yolo代码部分还没有出过相关教程，看看后面是否有时间吧！！！此外，目标检测方面我也详细的介绍了Rcnn的一系列原理及Faster rcnn的源码解析，链接如下：
- 目标检测系列——开山之作RCNN原理详解
- 目标检测系列——Fast R-CNN原理详解
- 目标检测系列——Faster R-CNN原理详解
- 还不懂目标检测嘛？一起来看看Faster R-CNN源码解读
对于语义分割自己也一直没有详细了解过，最近也是学习了一下语义分割的开山之作——FCN网络，全称为Fully Convolutional Networks for Semantic Segmentation 。我先来说说我以前对语义分割网络的主观认识，那就是一个字难，正常的学习路线是先图像分类，接着是目标检测，最后才是语义分割。如果你看过上文提到的Faster Rcnn源码的话，你会发现其理解起来还是很难的，而且代码量也非常的大。这样一来，我自然会认为语义分割的代码是恐怖级别的，但是通过我这几天的学习，我发现不管是FCN的原理还是代码都是相对简单的【只针对FCN，其它语义分割网络还没学习，因此也不清楚它们的难度如何】。说这个就是想告诉大家不要害怕语义分割，它远没有想象中的那么难！！！
各位准备好了嘛，我们将一起搭上语义分割号列车，启航！！！
语义分割概念
我想来看这部分内容的读者应该已经对语义分割的概念有所了解了，大家也别嫌我啰嗦，我还是打算给大家来辨析辨析什么物体分类，什么是目标检测，什么是语义分割以及什么是实例分割。物体分类很好理解啦，就是给出一张狗的图片，计算机把这张图片的类别辨别为狗，给出一张猫的图片，计算机把这张图片的类别辨别成猫。下面主要来看看目标检测、语义分割和实例分割的区别，如下图所示：
从上图可以看出，目标检测只会把物体用方框框出来，也会识别出类别（图中未画）。语义分割则会顺着物体的边缘把物体标出来，同样会识别出类别，语义分割可以看成是更加精细的目标检测。实例分割中的实例指的是个体，我们从图中可以发现，实例分割中的不同三人用不同颜色表示，即识别出每一个个体，实例分割可以看成更加精细的语义分割。
相信大家通过上图和相关解释已经明白了物体分类、目标检测、语义分割和实例分割的区别。那么接下来我将为大家详细的讲讲语义分割的开山之作——FCN。
FCN网络整体结构✨✨✨
我们先来看看FCN的整体结构，如下图所示：
大家看到上图的第一反应是什么呢？反正我看到是有点惊讶的，惊讶于语义分割的网络竟然如此简单，不知道大家有没有和我一样的感受呢！
虽然简单，但我们还是要来解释一下，特别要注意理解语义分割的思想。首先，输入是一张RGB三通道的图片，然后会输入特征提取网络提取特征，上图的特征提取网络为AlexNet。（对AlexNet不熟悉的可以点击☞☞☞了解详情）需要注意的是传统AlexNet的后三层为全连接层，而FCN中采用的是卷积层，这样将全连接层换成卷积层可以适应不同尺度的图片。现在看来，这种转化你可能觉得不足为奇，但是大家请注意，这篇文章是2015发表的，那时候有这种思想还是非常可贵的。我们注意到，在特征提取网络的最后一个特征图的通道数是21，这个21是很有讲究的喔，它对应着我们要分类的类别总数，包括背景。论文中使用的是VOC数据集，一个有20个前景类别和一个背景共21个类别数。接着我们会将刚刚得到的chanel=21的特征图进行上采样，将其尺寸变为原始输入图像大小【注：通道数还是21】。最后我们会和语义分割的标注图像（GT）计算损失，最终，这个21通道的原图大小的特征图的每个像素都有21个通道，即有21个值，我们取最大的一个值，其索引对应的类别就是该像素的所属类别！！！
FCN的整体结构就为大家介绍到这里，相信大家心中还是存有疑惑，特别是最后一部分，不用担心，下文我会详细的为大家讲述FCN的细节。
FCN细节理解✨✨✨
在FCN的论文中，主要给出了三种FCN的结构，分别是FCN-32，FCN-16，FCN-8s，如下图所示：
上图的几种网络的backbone都是基于VGG16网络的。【注：FCN-32s-fixed不是end-to-end，这里就不讨论了 】
大家是不是对上图的32s、16s和8s不是很理解呢，这个表示的是最后上采样的倍数。我也会在下文详细为大家介绍FCN的这三种结构，届时大家就会理解了。
FCN-32s结构
上文说过，这几个结构的backbone都是基于VGG16的，因此大家需要对VGG16有一点的认识，不清楚的点击☞☞☞了解详情。【注：在FCN整体结构时使用的是AlexNet，这里为VGG16，大家注意一下就好】
为方便大家阅读，这里贴出VGG16网络结构图，如下图所示：
有了VGG16网络的基础，看FCN-32就非常简单了，如下图所示：
图片来自B站霹雳吧啦Wz
现对上图做相关解释。首先一张任意大小的图片经过VGG16下采样了32倍，此时特征图尺寸为 h 32 × w 32 × 512 \frac{h}{32}×\frac{w}{32}×512 32h×32w×512，这部分对应着VGG16网络中的卷积层。 接着我们来看上图黄色虚线框住的三个卷积层，其对应着VGG16网络中最后三个全连接层，这样做的原因上文已经说过了，是为了使网络可以适应不同尺寸的输入，这部分结束后特征图的尺寸变为 h 32 × w 32 × n u m _ c l s \frac{h}{32}×\frac{w}{32}×num\_{cls} 32h×32w×num_cls ，其中 n u m _ c l s num\_cls num_cls为语义分割的总类别数，对于VOC数据集来说， n u m _ c l s = 21 num\_cls=21 num_cls=21。
最后我们会经过一个上采样，如使用转置卷积或双线性插值算法进行上采样，将刚刚得到的特征图还原为 h × w × n u m _ c l s h×w×num\_cls h×w×num_cls尺寸。【对转置卷积不了解的可以看此篇文章转置卷积部分了解详情。】
到这里，其实整个FCN网络就介绍完了，现在来说说FCN的损失是如何计算的。先来看看我们的真实值（GT）是什么，其是一张张P模式的图片，有关图片的P模式，可以点击本文中附录–>VOC语义分割标注了解详情。相信你看了附录中的解释，你已经知道了GT是一张张单通道的图片，其尺寸为 h × w × 1 h×w×1 h×w×1。刚刚由VGG网络得到的输出尺寸为 h × w × n u m _ c l s h×w×num\_cls h×w×num_cls，我们会根据GT和得到的输出计算出损失LOSS，大致过程如下：
上文我没有给出cross_entropy的具体是怎么做的，大家这里先不用着急，在下一篇FCN代码实战中我会通过代码详细的为大家讲解这个cross_entropy函数。这里我还想强调一点——损失函数的构造是我们实现程序功能的重要一环，它决定了输出的走向，即输出不断的拟合GT，当我们的网络训练的足够好时，网络的输出就和GT足够的接近！！！
FCN-16s结构
上节介绍了FCN-32s的结构，这节将来讲解FCN-16s的结构。32s和16s表示最后上采样的倍数分别为32倍和16倍。FCN-16s的结构如下图所示：
图片来自B站霹雳吧啦Wz
大家看到这个结构不知道是不是有点熟悉，我感觉有点像特征金字塔（FPN）结构，利用了不同尺度的信息，熟悉FPN的我觉得就非常好理解上图了。
我也来简要的解释一下，首先我们通过VGG后会分成①和②两条路，①路径和FCN-32s大致相同，只是在上采样时只将原图尺寸扩大了两倍，由 h 32 × w 32 × n u m _ c l s \frac{h}{32}×\frac{w}{32}×num\_{cls} 32h×32w×num_cls 变成 h 16 × w 16 × n u m _ c l s \frac{h}{16}×\frac{w}{16}×num\_{cls} 16h×16w×num_cls 。②路径的输入是VGG网络下采样16倍时的输出，尺寸为 h 16 × w 16 × 512 \frac{h}{16}×\frac{w}{16}×512 16h×16w×512，然后经过一个1×1的卷积核将通道数变成与①相同的通道数，即 n u m _ c l a s s num\_class num_class。①和②完成后，会将两步的结果相加然后再进行上采样，此时上采样的倍数为16，这样我们就得到了我们FCN-16s的输出了！！！
FCN-8s结构
明白了FCN-32s和FCN-16s的结结构，再来看FCN-8s的结构就更简单了。此时用到了VGG网络三个下采样倍数（32倍、16倍、8倍）的输出，其结构如下图所示：
图片来自B站霹雳吧啦Wz
关于FCN-8s的结构我就不带大家一点点分析了，相信你看懂了FCN-32s和FCN-16s再看FCN-8s会毫无压力！！！
小结
FCN的理论部分就为大家介绍到这里了，这部分我觉得大家理解起来应该还是蛮简单的，唯一的难点可能就在损失函数那部分，关于这点，我会在下一篇代码实战中为大家详细解释，同时帮助大家理解FCN的更多细节。
论文下载地址
FCN论文下载
参考链接
FCN网络结构详解(语义分割)
全连接卷积神经网络 FCN
附录
VOC语义分割标注✨✨✨
这个部分我来为大家讲讲VOC语义分割的标注，这部分文件存储在VOC2012/SegmentationClass文件夹下，部分内容如下：
可以看到，这部分文件的格式是png格式。它们图像的模式是P模式，即调色板模式，是单通道的图像。单通道的图像？？这明明是彩色的啊，怎么会是单通道的图像？？我相信你一定有这样的疑问，我们直接用实验来说话。
为方便做对照，我们使用VOC2012/JPEGImages中的三通道图片2007_000032.jpg 和VOC2012/SegmentationClass中的2007_000032.png图片做对比，首先，我们分别载入两种图片并显示一下，代码如下：
img2 = Image.open('D:/数据集/VOC/VOCtrainval_11-May-2012/VOCdevkit/VOC2012/JPEGImages/2007_000032.jpg')
img3 = Image.open('D:/数据集/VOC/VOCtrainval_11-May-2012/VOCdevkit/VOC2012/SegmentationClass/2007_000032.png')
plt.imshow(img2)
plt.imshow(img3)
img2为RGB模式图片（左），img3为P模式图片（右），如下图：
接着我们可以使用.mode方法打印看看图像的模式是否是我们所说的RGB和P，代码如下：
print("image2:",img2.mode)
print("image3:",img3.mode)
结果：
可以看到，确实和我们所说的一样，它们一个是RGB模式，一个是P模式！！！最后我们来看看最重要的一点，即RGB模式是三通道的图像，而P模式是单通道的图像，代码如下：
# 将PIL格式的图像转化为numpy格式
img2_np = np.array(img2)
# 打印img2的尺寸
print("image2_shape:",img2_np.shape)
img3_np = np.array(img3)
print("image3_shape:",img3_np.shape)
结果：
实验为证，现在我想大家是能够接受这样的一个事实了叭。【记住喔，这个对理解FCN还是很重要的】
这里只为大家证明我们使用的VOC标注信息是P模式的通道的图像，关于图像的P模式感兴趣的大家自行查阅资料。
我想大家肯定还是非常好奇，为什么单通道的图片可以是彩色的。这里我简单的说两句，它其实是有一个调色板的，单通道的图片有0-255个灰度值，每一个灰度值就是一个索引，会在调色板中找到对应的颜色，下图展示了调色板中0-4的颜色，一共有0-255个。
看上图就非常好理解了，比如P模式某个像素灰度值为0，则它会在调色板中找0对应的颜色，即[0, 0, 0]，为黑色，即P模式下所有灰度值为0像素颜色都是黑色。需要注意的是调色板中的不同索引对应的颜色是可以修改的，如我们将灰度值0的调色板由[0, 0, 0]修改成[255,255,255]，则现在P模式下所有灰度值为0像素颜色都为白色。
如若文章对你有所帮助，那就