经典卷积神经网络 - ResNet

ResNet是一种残差网络,咱们可以把它理解为一个子网络,这个子网络经过堆叠可以构成一个很深的网络。
经典卷积神经网络 - ResNet_第1张图片
我们一直在加深神经网络,但是加深不一定只会带来好处。

残差块

  • 串联一个层改变函数类,我们希望能扩大函数类
  • 残差块加入快速通道来得到 f ( x ) = x + g ( x ) f(x)=x+g(x) f(x)=x+g(x)的结构
经典卷积神经网络 - ResNet_第2张图片

ResNet块细节

经典卷积神经网络 - ResNet_第3张图片

ResNet块

  • 高宽减半ResNet块(步幅2)
  • 后接多个高宽不变ResNet块

ResNet架构

  • 类似VGG和GoogleNet的总体架构
  • 但替换成了ResNet块

总结:

  • 残差块使得很深的网络更加容易训练
  • 残差网络对随后的深层神经网络设计产生了深远影响,无论是卷积类网络还是全连接类网络。

你可能感兴趣的:(cnn,人工智能,神经网络)