普通卷积、Depthwise(DW)卷积、Pointwise(PW)卷积、Atrous卷积

转发

https://blog.csdn.net/T_J_S/article/details/94629637
https://www.zhihu.com/question/49630217

普通卷积

Depthwise(DW)卷积

不同于常规卷积操作，Depthwise Convolution的一个卷积核负责一个通道，一个通道只被一个卷积核卷积。上面所提到的常规卷积每个卷积核是同时操作输入图片的每个通道。
同样是对于一张5×5像素、三通道彩色输入图片（shape为5×5×3），Depthwise Convolution首先经过第一次卷积运算，不同于上面的常规卷积，DW完全是在二维平面内进行。卷积核的数量与上一层的通道数相同（通道和卷积核一一对应）。所以一个三通道的图像经过运算后生成了3个Feature map(如果有same padding则尺寸与输入层相同为5×5)，如下图所示。

Pointwise(PW)卷积

Pointwise(PW)卷积就是卷积核为1x1的，也叫点卷积，对map处理，得到新的Feature map。

Atrous 卷积

Atrous卷积，就是带洞的卷积，卷积核是稀疏的，看图：

上面是常规卷积，下面是Atrous卷积。

图中第三个示例（c），就是Atrous卷积。

带洞卷积减少了核的大小（减少了参数的数量），可以达到节省内存的作用。
而且带洞卷积的有效性基于一个假设：紧密相邻的像素几乎相同，全部纳入属于冗余，不如跳H(hole size)个取一个。