ResNet和BN层

6.1 ResNet网络结构，BN以及迁移学习详解_哔哩哔哩_bilibili

   ResNet 

一般网络层数比较少，如果层数增加，则会产生梯度消失梯度爆炸等情况，也就是层数越多效果反而越不好了。

ResNet利用残差结构解决了这个问题

 看101

conv2_x有一个3X3最大池化下采样，+ 3个残差结构

conv3_x有 4个残差结构

conv4 有23个

conv5 有3个

然后平均池化下采样

全连接层 1000

softmax

虚线的残差结构是用来调整数据的尺寸的 

另外ResNet中基本没有Maxpooling（在conv2中有一个除此之外就没了。）这个网络是通过卷积下采样的。

BN层

用来加速训练和提升准确率，也就是让卷积之后的数据也符合某一分布，再进入下一次卷积。（每个通道都要符合这个分布，一批数据同一通道的所有数据的均值和方差）

训练的时候计算均值和方差

测试的时候用以前的均值和方差。不用重新计算。