DL之ResNet：ResNet算法的相关论文、设计思路、关键步骤、实现代码等配图集合之详细攻略——daiding

DL之ResNet：ResNet算法的相关论文、设计思路、关键步骤、实现代码等配图集合之详细攻略——daiding

 

 

目录

ResNet算法的简介

1、ResNets @ ILSVRC & COCO 2015 Competitions

2、ILSVRC—Revolution of Depth 深度革命

ResNet算法的相关论文

ResNet算法的设计思路

ResNet算法的实现代码

---

 

 

 

ResNet算法的简介

       来自微软研究院何恺明等 ，荣获ILSVRC2015的分类任务第一名、CVPR 2016 best paper 。ResNet使得训练深度达数百甚至数千层的网络成为可能，而且性能仍然优异。 

1、ResNets @ ILSVRC & COCO 2015 Competitions

1st places in all five main tracks  五大tracks的第一名

• ImageNet Classification: “Ultra-deep” 152-layer nets   
  ImageNet分类：“超深”152层网
• ImageNet Detection: 16% better than 2nd
  ImageNet检测：比第二个高16%
• ImageNet Localization: 27% better than 2nd
  ImageNet本地化：比第二个好27%
• COCO Detection: 11% better than 2nd
  COCO检测：比第2次好11%
• COCO Segmentation: 12% better than 2nd
  COCO分割：比第二个好12%

2、ILSVRC—Revolution of Depth 深度革命

 

 

论文
Kaiming He, XiangyuZhang, ShaoqingRen, & Jian Sun.
“Deep Residual Learning for Image Recognition”. CVPR 2016（best paper award）.
https://arxiv.org/abs/1512.03385

 

 

1、残差模块 

• 增加了”短路”连接（shortcut connection)或称为跳跃连接（skip connection) 
• 学习残差映射（residual mapping）而不是直接学习期望映射
• 瓶颈残差块，网络较深（大于50层）时使用后面这种（bottleneck)来提高效率 

2、网络架构

• plain network：基于VGG19的架构把网络增加到34层
• Residual Network：plain network基础上增加残差模块 
• 深度变化：34、50、101、152 

3、实验结果

• 单个模型：top-5错误率为4.49%
• ensemble：top-5错误率为3.57%
   

 

ResNet算法的相关论文

Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun（2015）: Deep Residual Learning for Image Recognition. arXiv:1512.03385 [cs] (December 2015).

 

ResNet算法的设计思路

ResNet：方块对应【3*3】的卷积层，其特征在于引入了横跨层的快捷结构。

 

 

 

ResNet算法的实现代码

后期更新……