1*1的卷积层的作用,以及与全连接层的关系

这里写目录标题

      • 1*1卷积
        • 1.不改变图像空间结构
        • 2、输入可以是任意尺寸
        • 3、升降维+信息交互
        • 4、引入非线性
      • 1*1卷积和全连接层的区别

1*1卷积

1.不改变图像空间结构

全连接层会破坏图像的空间结构,例如把维度拼接成一个一维数组, 而1* 1卷积层不会破坏图像的空间结构,保留图像局部特征,卷积具有空间位置不变性。

2、输入可以是任意尺寸

全连接层的输入尺寸是固定的,因为全连接层的参数个数取决于图像大小,需要预先设定好,而卷积层的输入尺寸是任意的,因为卷积核的参数个数与图像大小无关。

3、升降维+信息交互

一张448* 448* 100 的图片在20个卷积核上做1* 1的卷积,那么结果的大小为448* 448* 20。1* 1 卷积的作用是让网络根据需要能够更灵活地控制数据的通道数(即实现不同通道之间的信息交互),通过1* 1卷积,可以将不同分支的feature map通道数调整到需要的大小,也可以升维。

4、引入非线性

卷积层之后经过激活函数,1* 1的卷积在前一层的学习表示上加了非线性激活,提升网络的非线性;

1*1卷积和全连接层的区别

全连接层:
是把特征图拆开组成一个一维向量,再乘以一个权重向量,这两个向量中的元素一一对应,所以输出结果是一个值。
1*1卷积:
1)卷积本质上也是1个权重,如果特征图大小是1* 1的话,那输出就是一个值,此时与全连接作用一样。但是如果特征图大小不是1* 1,而是w* h的话,那么1* 1的卷积输出就不是一个值而是w* h的一个矩阵。
2)减少或增加特征图的维度。
3)全连接没办法适应输入尺寸的变化只能固定,1* 1卷积无需固定输出尺寸,卷积是权值共享,所学参数只跟卷积核有关,跟特征图无关。(1* 1不需要输入map固定,但fc需要)
4)1* 1加入了非线性激活。

你可能感兴趣的:(深度学习,计算机视觉)