经典卷积神经网络之-----VGG16

经典卷积神经网络之-----VGG16

命名：16表示除pooling layer外使用conv layer的层数

1.特点：

1.VGGNet探索了卷积神经网络的深度与其性能之间的关系，通过反复堆叠3×3的小型卷积核和2×2的最大池化层，VGGNet成功地构筑了16-19层深的卷积神经网络；

2.VGGNet结构简洁，整个网络都使用了同样大小的卷积核尺寸（3×3）和最大池化尺寸（2×2）；

3.拥有5段卷积，每段内有2-3个卷积层，每段段尾连接一个最大池化层，用来缩小图片；

4.使用非常多的3*3卷积串联：

• 2个3 * 3卷积串联 == 1个5 * 5的卷积
• 3个3 * 3卷积串联 == 1个7 * 7的卷积

优点：卷积串联比单独使用一个较大的卷积核，拥有更少的参数量，同时会比单独一个卷积层拥有更多的非线性变换。

5.Some tricks:

• 先训练卷积层数较少的A网络，再用A网络权重初始化卷积层较多的复杂模型；
• 数据增强：Multi-Scale：将不同尺寸图片的预测结果进行平均；将图片缩放到不同尺寸，再随机裁剪成224*224的图片，进行训练。

2.网络结构

3.几个观点

1. LRN层作用不大
2. 越深的网络效果越好
3. 1*1 卷积很有效，但没 3 *3的卷积好，大一点的卷积核可以学习更大的空间特征。
4. 更深的网络和更小的卷积核带来隐式的正则化效果