CNN真的需要下采样（上采样）吗?

点击上方“小白学视觉”，选择加"星标"或“置顶”

重磅干货，第一时间送达

背景介绍

 

在常见的卷积神经网络中，采样几乎无处不在，以前是max_pooling，现在是strided卷积。

以vgg网络为例，里面使用到了相当多的max_pooling

输入侧在左面（下面是有padding的，上面是无padding的），可以看到网络中用到了很多2x2的pooling

同样，在做语义分割或者目标检测的时候，我们用到了相当多的上采样，或者转置卷积

典型的fcn结构，注意红色区分的decovolution

以前，我们在分类网络的最后几层使用fc，后来fc被证明参数量太大泛化性能不好，被global average pooling替代掉了，最早出现在network in network中，

GAP直接把每个通道对应空间特征聚合成一个标量

从此，分类网络的范式变为(Relu已经被隐式带在了onv和deconv里面)，

Input-->Conv-->DownSample_x_2-->Conv-->DownSample_x_2-->Conv-->DownSample_x_2-->GAP-->Conv1x1-->Softmax-->Output

而分割网络的范式变为（最近的一些文章也在考虑用upsample+conv_1x1代替deconv），

Input-->Conv-->DownSample_x_2-->Conv-->DownSample_x_2-->Conv-->DownSample_x_2-->Deconv_x_2-->Deconv_x_2-->Deconv_x_2-->Softmax-->Output

这里暂时不考虑任何shortcut。

可是，我们不得不去想，下采样，上采样真的是必须的吗？可不可能去掉呢？

空洞卷积和大卷积核的尝试

一个很自然的想法，下采样只是为了减小计算量和增大感受野，如果没有下采样，要成倍增大感受野，只有两个选择，空洞卷积和大卷积核。所以，第一步，在cifar10的分类上，我尝试去掉了下采样，将卷积改为空洞卷积，并且膨胀率分别递增，模型结构如下所示，

这个网络的卷积结构，注意最后用一个空间范围的全局平均直接拉平为特征向量，最后再跟一个10维的全连接层

这是一个典型的四层的VGG结构，每层卷积的dilation_rate分别为1，2，4，8。在训练了80个epoch后，测试集准确率曲线如下所示 ，

四层VGG网络，卷积的dilation_rate分别是1，2，4，8，可训练参数量25474

最终的准确率达到了76%，相同参数的vgg结构的卷积网络能够达到的准确率基本就在这附近。

从另一种思路出发，为了扩大卷积的感受野，也可以直接增加卷积的kernel_size，与上面对比，保持dilationrate为1不变，同时逐层增大卷积的kernel_size，分别为3，5，7，9，训练80个epoch后得到如下准确率曲线，

四层VGG网络，卷积的kernel_size分别是3，5，7，9，可训练参数量为172930

和之前改变dilation_rate的方式比较，收敛过程很一致，略微震荡一点，但是最终的结果很一致，都在76%上下，这说明影响最终精度的因素只有感受野和每层的通道数。

为了说明下采样在性能方面没有提升，用有下采样的网络对对比。即在不修改其他任何参数的情况下，对原本使用dilation的卷积层使用下采样，stride都设置为2，同样训练80个epoch，收敛结果如下，

四层VGG网络，每层使用stride为2的卷积进行下采样，可训练参数量25474

最终收敛到了73%上下，比上面两个实验低了大约3个点，这说明下采样的信息损失确实不利于CNN的学习。

把三种参数的结果放在一起对比，更能够说明问题，

四层VGG网络的对比结果，除了卷积层参数不同，其他参数均相同

为了严谨性，补上训练1000轮的结果，

训练1000轮的效果，可以明显看到不同方法之间的差距

为了验证这种想法的通用性，使用resnet18结构的网络，并在原本需要下采样的卷积层使用dilation_rate不断增大的空洞卷积替代。训练80个epoch后，最终得到的准确率曲线如下 所示，

resnet18上的准确率曲线，网络通过改变卷积层dilation_rate得到

在没有其他任何调参的情况下，最后收敛到了87%的准确率。

 

小卷积核的尝试

我们知道，大卷积核的感受野通常可以通过叠加多个小卷积核得到，vggnet首先发现5x5卷积可以用两个3x3卷积代替，极大减少了参数量。

两个3x3卷积的感受野和一个5x5卷积相同，但是参数少一半

同样的7x7卷积可以用三个3x3卷积级联，9x9可以用四个3x3卷积级联。

为了获得和上面四层卷积网络相同的感受野，我设计了一个十层的只有3x3卷积的网络，每层之间依然有非线性。因为层数多了很多，为了确定中间层的通道数，我做了几组实验。同时，为了不极大增加参数量，我又在卷积中间插入depthwise卷积，这样保持对应感受野上的通道数不变，而参数量不至于增加很多。训练结果，

实验结果，后面的数字表示每层对于的通道数

可以看到，只有三个网络结构在精度上优于之前的设计，而这三个网络的参数量都是之前的数倍。使用depthwise卷积的网络参数量并没有增加太多，但是精度还是略低于之前的设计。

为了说明问题，增加每层的通道数，比如之前16-32-48-64的设计，改为64-128-256-512的设计，基本上对于这个深度的网络来说，容量已经接近上界了，结果如下，

增加通道数的结果

可以看到，空洞卷积网络依然以较小的参数领先于depthwise卷积和3x3卷积混合网络，并以数倍更少的参数优势，在精度上略低于3x3级联网络。

这个实验表明，对于CNN而言，深度之外，感受野以及该感受野上的通道数，真正决定了网络的性能。

这和语音中的wavenet是相似的，

通用wavenet

空洞wavenet

wavenet使用空洞因果卷积来降低计算量，原始wavenet的性能并没有问题，但是计算量和参数量指数增长。

 

稀疏化方面的思考

小卷积核叠加和大卷积核的方法为了获得和空洞卷积相同的性能，付出了参数上的巨大代价，而空洞卷积本身是稀疏的（大多数元素都是0），这促使我们思考，是否可以用稀疏化解决参数巨大的问题。

CNN的稀疏化最近研究很多，一般的卷积稀疏化见下图，并注意到每层卷积的卷积参数都是四维的，即输入通道数，输出通道数，x方向的卷积尺寸，y方向的卷积尺寸。

四种不同的稀疏卷积，因为卷积核权重四维的，最左边稀疏性是最不规则的，越向右规则的维度则越多，越有利于硬件加速

我们常见的其实是通道维度的稀疏化，这相当于减少通道数，也最容易加速，但是更有意义的稀疏化，我认为是卷积核内部的稀疏化，如下图所示，

最左侧没有稀疏化，中间有零值（也就是稀疏化），最右侧有1x2的块状稀疏化

这种稀疏化能减少参数量（因为零值是没有意义的），但是因为不利于工程实现，所以目前没有明显的加速效果。

近期的研究表明，CNN里大多数卷积核都是稀疏的，大约有50%以上都是稀疏的，也就是说有50%以上参数都是冗余的。如果能去掉冗余参数，那么大卷积核和多层小卷积核也能证明在感受野和特定感受野上的通道数对CNN性能的决定性影响，在不增加额外模型参数的前提下。

尽管很容易预测，但是接下来，我们还会证明这两种方法的参数冗余。

10层3x3级联网络的可训练参数量是86404，4层空洞卷积网络参数量是25474，4层大卷积核网络参数量是172930。使用tensorfllow内置的稀疏化功能，其官方github地址为https://github.com/tensorflow/model-optimization,原理即在训练过程中，按一定的准则将卷积核的一些元素置为零，然后finetune。对于10层3x3级联网络，选择稀疏率为25%，这样稀疏化后的参数量为21601，对于大卷积核网络，选择常数稀疏率为15%，稀疏化的参数量为25940，这样稀疏化后它们的参数都比空洞卷积网络更少。为保证网络不会继续收敛了，训练1000个epoch，稀疏化从第200个epoch开始，稀疏化后的训练结果如下所示，

可以明显的看到稀疏化后的3x3级联网络的性能是最好的，同时它的参数也是最少的，同时大卷积核的性能次之，这个时候空洞卷积的性能反而略低。

保持同样的参数和稀疏度，在cifar100上训练的结果如下所示，

这个时候级联3x3网络的性能已经远超其他两个网络了（对于cifar100上的baseline取多少合适，大家可以参阅一些文章或博客）。

稀疏化极限的思考

我们上面的讨论基本就是，只要能保住某个感受野，稀疏化也是可行的，但是又不禁想知道稀疏化的极限在哪里，对于3x3的卷积核，在保住感受野的情况下，最少必须有两个非零元素，但是这样一来卷积核就退化了，从各向同性退化为各向异性，

前面两个卷积核只有一个方向性（对角线方向），最后一个有两个方向性

学过线性代数的同学都知道，在二维线性空间至少有两个基底向量，才能合成各种方向的梯度。如果卷积核退化成前面两个的情况下，卷积核的二维性质也许就损失掉了，但是同一层中只要有多个卷积核具有不同的方向性，那么这一层依然可能是各向同性的，方向性也许也是感受野的一个重要描述。关于感受野的方向性，一个来自视觉皮层实验的启示如下，

人类视觉皮层中不同方向调谐的感受野分布

感受野的意义。只有大感受野才能感受到尺寸比较大的物体。感受野，深度和通道数，共同决定了cnn某一层的性能，一个衡量cnn性能的正确表述应该是网络在某一层有多大的深度和感受野，同时有多少通道。深度决定了网络的抽象能力或者说学习能力，感受野决定了网络某一层看到多大的范围，通道数决定了网络某一层的信息量，感受野和通道数可以共同表示网络某一层学习到的有效空间和语义信息。

maxpooling的额外讨论

这促使我们思考，采样真的是必要的吗？当然，从工程的角度看，采样能极大减小feature map的尺寸，从而大大降低计算量，但这个实验表明，采样对提高cnn的性能并没有帮助，max pooling有抑制噪声的作用，所以有用，但max pooling可以用不下采样的方式实现，这和经典的中值滤波类似。

典型的中值滤波，这里卷积核大小是20，注意到输出尺寸没有改变，max pooing和中值滤波类似，它们都可以用来压制噪声

这也说明，cnn的每一层卷积都在编码空间相关性，浅层特征编码短距离相关性，更深的卷积层编码更远距离的空间相关性，而到了某一层，再也没有统计意义上的空间相关性了（这取决于有意义的物体在图像中的尺寸），到这一层就可以用GAP聚合空间特征了。

分割网络的设计

在之前分类网络的基础上，去掉最后面的global average pooling和fully connected，换成conv1x1（相信很多人都知道，fc层形式上可以转换成conv1x1，本以为只是工程上的trick，没想到有本质联系）,直接变成分割网络，在我制作的数据集m2nist上，训练结果如下所示，

无采样网络在m2nist上的训练结果（因为背景面积比较大，acc超过94%才有实际意义）

使用训练好的模型进行预测，可视化后的结果如下：

左边是原图，右边是分割结果，一共需要把10 个数字完整分割出来

后续讨论，对网络设计的可能影响

如果没有了采样层，分类网络的范式将如下所示

Input-->Conv(dilate_rate=1)-->Conv(dilate_rate=2)-->Conv(dilate_rate=4)-->Conv(dilate_rate=8)-->GAP-->Conv1x1-->Softmax-->Output

分割网络的范式将如下所示，

Input-->Conv(dilate_rate=1)-->Conv(dilate_rate=2)-->Conv(dilate_rate=4)-->Conv(dilate_rate=8)-->Conv(dilate_rate=16)-->Conv(dilate_rate=32)-->Softmax-->Output

不再有decoder阶段，因为到了decoder，上采样只是为了恢复分辨率，在无采样的网络结构里，在最大感受野处，即之前加入global average pooling的地方可以直接接softmax进行pixel level的分类，这还需要更多实验。

除此之外，在其他网络中，在网络的任何部分中，都可以使用没有采样的子网络，比如hrnet的旁支网络

可以使用无采样的网络代替原本需要恢复分辨率的子网络

对跨层连接的思考

如果没有了采样，那么所有feature map的分辨率都是一样的，跨层连接也不会再区分bottom-up和up-bottom，所有的跨层连接本质上都是在融合不同感受野的特征（这里待议，bottom-up应该是在融合分辨率，常用在输出侧，up-bottom应该是在融合来自不同感受野的特征，常用在特征提取侧，当没有了分辨率的变换，bottom-up就不再被需要了）。

对目标检测的可能影响

如果没有了分辨率的变化，那么检测完全可以在网络深层的某个感受野处叉开成为三支，分别检测大中小物体，这个思想和tridentnet有类似之处

谢谢评论里的补充，dilated residual network确实已经在resnet里面用类似的手法来处理分类和分割了，我之前并没有注意到，但即使这样，drn最后一层相当于输入依然有采样过程，而本文试图直接构建没有任何采样的网络。并且我的文章并无意于dilated卷积，我文章前面一部分的目的是为了诠释是否需要采样，并且试图说明感受野，深度和通道数的辩证关系，也试图说明感受野的方向性以及卷积的稀疏化本质，最近，稀疏化卷积的研究其实越来越多，大家有兴趣可以去arxiv上查阅，这里就不一一列举了。

请意识到dilated convolution也不是必须，一个更大kernel size的卷积就可以替换它，但这势必会引入更多参数，可能导致过拟合，当然这可以用稀疏化的办法解决，但是稀疏卷积目前不适合工程化，因为效率并不高。

类似的想法最早出现在deeplab的相关论文Rethinking Atrous Convolution for Semantic Image Segmentation（https://arxiv.org/abs/1706.05587）中，这篇文章中，空洞卷积主要是通过移除网络最后几层的降采样操作以及对应的滤波器核的上采样操作，来提取更紧凑的特征，并且不增加新的额外学习参数。

图片来自于论文，以串行方式设计atrous convolution 模块，复制ResNet的最后一个block，如block4，并将复制后的blocks以串行方式级联。

总结一下本文。

虽然不利于加速，但是卷积核天生就应该是稀疏的，下采样损失了分辨率，一定会损失精度。深度之外，只有感受野和与之对应的通道数最重要。

数学本质的思考（这部分按需自行忽略，以后打算单独讨论）

最后一个小节扩展成的另外一篇文章https://zhuanlan.zhihu.com/p/99193115，这篇文章的另一个作用，对于数学家分析CNN更加方便，不用再建模下采样，只用证明卷积核稀疏性可以建模图像识别，并且因为没有了采样，卷积也就变成了连续空间上的卷积，（同时，激活函数也是可以软化的），卷积核大小可以用函数支撑空间来描述（类似于高斯核的有效半径）。下图即高斯核函数  在不同的  下的图像,

一句话说来，CNN是一种利用卷积实现二维泛函空间到二维泛函空间映射的神经网络。

以一维为例，这就相当于把（-1，1）上的有界函数f映射到有界函数g的一个泛函，

为什么用卷积呢？众所周知，卷积是最简单的这样一个泛函

并且它有着诸多良好的性质，最重要的是，卷积有平移不变性，

它也有缩放不变性，

它有结合率和交换率

所以对于任意一个算子  ,cnn的目的就是找到这样一个  ,

但是直接寻找并不容易,那么就用一系列卷积去逼近它,其中  在这里是非线性激活函数,

那么，cnn的策略就很明显了，通过拟合的方式，用一组卷积去逼近任意泛函（注意，这个时候缩放不变性被非线性激活破坏了）。

为什么使用小卷积核之狄拉克函数与高斯函数

我们知道狄拉克函数

它 是一个广义函数，也就是说不是普通意义上的函数，当高斯核函数的有效半径无限趋近于0的时候，便得到了狄拉克函数。

它的卷积有如下性质

这可以看成是1x1卷积，

它的n阶导数有如下性质

也就是说和它的n阶导数做卷积便得到了自己的n阶导数。

这个函数在应用中必定是实现不了的，但是让我们来看看高斯函数，它的导数是什么样子，

高斯函数的前七阶导数，包含原函数，这些函数的有效半径惊人的一致

可以看出来这些函数的有效半径惊人的一致。如果使用这些函数，理论上可以使用卷积近似任意微分算子，而微分算子是性质非常好的线性算子。

所以，为什么使用小卷积核，因为只有高斯函数的有效半径趋近于0的时候，它才能近似狄拉克函数，它的导数才能近似于狄拉克函数的导数。

（小卷积核的意义待议，这里提供另一个思考方式，因为图像不是普通函数，卷积在频率空间变成乘法，小卷积核更容易产生高频（类比高斯核函数），所以卷积后更容意放大高频信息，（其实，这和上面的解释并不完全冲突）使得高频信息不容易被非线性的激活函数抹去，而高频信息对于图像来说，有非常重要的作用，比如说边缘，比如说角点）。

稍大卷积核的意义

其实高斯核还有一个性质，与被高斯核作用后（相当于高斯平均）后求n阶导数，相当于与高斯核的n阶导数作卷积,也就是说,

同时,高斯核还有以下性质

所以,我们有高斯核作为基底向量,有

这样求相当与求解一系列线性系数  ,请自行将  对应到卷积核大小上

那么这样稍大卷积核的意义就是变换在高斯平均后的空间里的微分算子，而且卷积核越大，这个平滑效应越强。

而在图像领域，因为计算机和信息论离散化的表现形式，我们使用采样和量化来处理它，并以此减少计算量

请持续关注本文的源代码github仓库（https://github.com/akkaze/cnn-without-any-downsampling）

作者：知乎-akkaze-郑安坤

地址：https://www.zhihu.com/people/kkk-37-60

下载1：OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2：Python视觉实战项目52讲

在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。

下载3：OpenCV实战项目20讲

在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。

交流群

欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~