卷积神经网络中1x1卷积的作用

1x1卷积的作用

1、 降维(减少参数)

在并行pooling层后面加入1×1卷积层后也可以降低输出的feature map数量(feature map尺寸指W、H是共享权值的滑动窗口,feature map 的数量就是channels)

2、升维(用最少的参数拓宽网络channel)

3、跨通道信息交互(channel的变换)
使用1*1卷积核,实现降维和升维的操作其实就是channel间信息的线性组合变化,即通道间的信息交互。

注意:只是在channel维度上做线性组合,W和H上是共享权值的滑动窗口

4、增加非线性特性
1*1卷积核,可以在保持feature map尺度不变的(即不损失分辨率)的前提下大幅增加非线性特性(利用后接的非线性激活函数),把网络做的很深

5、可以将1x1卷积看成全连接层

参考文章:https://mp.weixin.qq.com/s/ZZ6eYEmHtTH_swSYqbIJyg

你可能感兴趣的:(科研,cnn,深度学习,机器学习)