特殊的卷积形式

1x1卷积

卷积核大小为1x1;功能为:信息聚合(线性加权),同时增加非线性(激活函数)。还有用于通道数的变换,可以增加或者减少输出特征图的通道数。

特殊的卷积形式_第1张图片

 转置卷积

转置卷积通常在语义切割任务中,语义切割就是对像素进行分类:

特殊的卷积形式_第2张图片

转置卷积,假设输入为2x2,卷积核大小为3x3,转置卷积相当于自动补充了padding=2,然后再进行标准卷积,输出为4x4,。转置卷积可以设置padding和stride,如果设置了p,那么填充的0为k-1-p层,如果设置了s,那么就在卷积元素之间插入s-1个0。如下图:

特殊的卷积形式_第3张图片

转置卷积后输出的维度:

 空洞卷积

通过在卷积核元素之间插入空格来扩张卷积核,插入多少的控制由孔洞率r来决定,在元素中间插入r-1个0,因此空洞卷积大小变为。由于卷积核变大,感受野也变大。不增加参数数量而快速扩大感受野的有效方式,以获得更多的局部信息。

 特殊的卷积形式_第4张图片

分组卷积

分组卷积顾名思义就是,将卷积分组,很容易理解。

特殊的卷积形式_第5张图片

 上面把卷积核的深度切割了,对应的输入的深度也要切割,不一定要对半切。然后对应输出的深度,就需要多少个卷积核。

深度可分离卷积

深度可分离卷积由分组卷积而来,假设,分组卷积中每组只有单个(C2/g=1)一层 (C1/g=1) 卷积,这个时候,进行卷积,通道之间的信息是没有融合的,卷积过后想要融合,就要加上一个1x1的卷积来增加通道间的信息。

因此,深度可分离卷积由一个分组卷积(单层)以及一个1x1卷积构成。

相比较于标准卷积,减少了参数量,因为只有一个卷积了,以及降低了计算量,提高了运算效率。当然速度的提升,也意味着精度的减少。因此,这类卷积通常应用在有速度要求的卷积结构中,例如,MobileNet、ShuffleNet等模型。

你可能感兴趣的:(图神经网络,深度学习,人工智能)