38. 深度卷积神经网络(AlexNet)

1. Hardware

38. 深度卷积神经网络(AlexNet)_第1张图片

2. ImageNet(2010)

3. AlexNet

4. AlexNet架构

38. 深度卷积神经网络(AlexNet)_第2张图片

dense:稠密层也叫做全连接层,就是把特征提取成一维,帮助最后分类。

5. 更多细节

  • 激活函数从sigmoid变到了ReLu(减缓梯度消失)
  • 隐藏全连接层后加入了丢弃层,来做模型的正则化
  • 数据增强

6. 模型复杂度

参数个数 = 卷积层长 * 宽 * 每个卷积层的层数 * 通道数

7. 总结

  • AlexNet是更大更深的LeNet,10x参数个数,260x计算复杂度
  • 新进入了丢弃法,ReLU,最大池化层,和数据增强
  • AlexNet赢下了2012ImageNet竞赛后,标志着新的一轮神经网络热潮的开始

你可能感兴趣的:(深度学习,cnn,人工智能,深度学习)