ResNet架构分析

ResNet架构特点

ResNet采用网络中增加残差网络的方法,解决网络深度增加到一定程度,更深的网络堆叠效果反而变差的问题。在网络深度到一定程度,误差升高,效果变差,梯度消失现象越明显,后向传播时无法把梯度反馈到前面网络层,前面网络参数无法更新,导致训练变差。残差网络增加一个恒等映射,跳过本层或多层运算,同时后向传播过程中,下一层网络梯度直接传递给上一层,解决深层网络梯度消失的问题。

ResNet优缺点

优点:使前馈/反馈传播算法顺利进行,结构更加简单;恒等映射增加基本不会降低网络的性能。
缺点:训练时间长,

ResNet应用场景

图像分类,人脸识别
ResNet架构分析_第1张图片

你可能感兴趣的:(caffe,机器学习)