深度学习---之pooling层的作用与缺陷

转载+原创

作者：谢志宁
链接：https://www.zhihu.com/question/36686900/answer/130890492
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

之前看懂过pooling层的作用，两个月没看也没用，又忘记了，这回记录下来

个人觉得主要是两个作用：
1. invariance(不变性)，这种不变性包括translation(平移)，rotation(旋转)，scale(尺度)
2. 保留主要的特征同时减少参数(降维，效果类似PCA)和计算量，防止过拟合，提高模型泛化能力

(1) translation invariance：
这里举一个直观的例子(数字识别)，假设有一个16x16的图片，里面有个数字1，我们需要识别出来，这个数字1可能写的偏左一点(图1)，这个数字1可能偏右一点(图2)，图1到图2相当于向右平移了一个单位，但是图1和图2经过max pooling之后它们都变成了相同的8x8特征矩阵，主要的特征我们捕获到了，同时又将问题的规模从16x16降到了8x8，而且具有平移不变性的特点。图中的a（或b）表示，在原始图片中的这些a（或b）位置，最终都会映射到相同的位置。

(2) rotation invariance：
下图表示汉字“一”的识别，第一张相对于x轴有倾斜角，第二张是平行于x轴，两张图片相当于做了旋转，经过多次max pooling后具有相同的特征

(3) scale invariance：
下图表示数字“0”的识别，第一张的“0”比较大，第二张的“0”进行了较小，相当于作了缩放，同样地，经过多次max pooling后具有相同的特征

以下补充纯属原创，如果转载请注明出处：

补充：

        第三个尺度不变性，也就是增大了感受野，即这个0原来被16X16的表示，经过pooling后，可以用4X4的图表示了，假如一个2X2的卷积核就能够多框进去一些信息，提取的特征也越准确，你想象一下，卷积核能够看到更多的信息，是不是提取特征越准确啊。

        那我为了增大感受野，我一开始就用跟图像一样大的卷积核，那不就感受野更大了？答：不行，因为卷积层越深模型的表征能力越强，即卷积次数越多越好，你用跟图像一样大的，得到了1X1的feature map,但是一下降维这么多，会导致很多重要信息丢失，你再进行卷积的时候效果就每那么好了。

       你说降维导致信息丢失，那即使第一次不降维到1X1到最后面也会降维到1X1或者很低的维度信息不一样丢失了吗？

       第一次降维丢到1X1会导致一次性失信息太多了，之后的卷积的表征能力就没那么强了，而逐渐降维一次性丢失的信息没有那么多，所以以后每一次卷积表征能力相对一次性降维更强

pooling的缺点：

       pooling能够增大感受野，让卷积看到更多的信息，但是它在降维的过程中丢失了一些信息（因为毕竟它变小了嘛，只留下了它认为重要的信息），所以pooling增大感受野的前提是丢失了一些信息（即降低了分辨率），这对segmentation要求的精确度location有一定的影响。

       所以pooling层跟segmentation有一定的冲突，但是你不用又不行，感受野可以帮你提高准确率，而且还可以降计算量，增强模型泛化能力，所以感受野，分辨率，参数三者很难共存，现在有很多方法可以改进这个，我还没看，等后面慢慢去看！！～～

      纯属个人思考，欢迎指正交流