全连接层与池化层

全连接层作用:

通俗易懂.
全连接层之前的作用是提取特征,全连接层的作用是分类。它把特征representation整合到一起,输出为一个值。这样做大大减少特征位置对分类带来的影响。但是,空间结构特性被忽略了,所以全连接层不适合用于在方位上找模式的任务,比如分割。

池化层:

池化层主要的作用
1.首要作用,下采样(downsamping)
2.降维、去除冗余信息、对特征进行压缩、简化网络复杂度、减少计算量、减少内存消耗等等。各种说辞吧,总的理解就是减少数量。
3.实现非线性(这个可以想一下,relu函数,是不是有点类似的感觉?)。
可以扩大感知野
4.可以实现不变性,其中不变性包括,平移不变性、旋转不变性和尺度不变性。
###HOW TO DO:
平均池化(average pooling): 计算图像区域的平均值作为该区域池化后的值。
最大池化(max pooling): 选图像区域的最大值作为该区域池化后的值。
全连接层与池化层_第1张图片

GAP(Global Average Pooling)

全连接层与池化层_第2张图片
假设卷积层的最后输出是h × w × d 的三维特征图,具体大小为6 × 6 × 3,经过GAP转换后,变成了大小为 1 × 1 × 3 的输出值,也就是每一层 h × w 会被平均化成一个值。

你可能感兴趣的:(神经网络,机器学习)