论文阅读：Identity Mappings in Deep Residual Networks

今天研读了 He 论述的关于ResNet中 的 identity mapping的重要性的文章《Identity Mappings in Deep Residual Networks》

论文的核心观点是：

identity shortcut connections and identity after-addition activation are essential for making information propagation smooth.

并提出了改进的残差模块结构：

这种结构具有的优点： 超深层（1000多层）网络更容易优化且具有regularization的作用； 信息可以在整个网络里自由地前向传播和后向传播。

下面是这篇文章的思维导图：