【Resnet】深度残差学习的图像识别总结

1.在AlexNet的基础上,大家知道了增加神经网络的层数很重要。

2.更深的网络会遇到问题:梯度爆炸、梯度消失。

3.ResNet就是为了解决梯度消失问题而提出的。

【Resnet】深度残差学习的图像识别总结_第1张图片

如上图可以看出在更深的网络有更高的测试误差和训练误差。

4.于是引入深度残差学习框架来解决退化问题。

【Resnet】深度残差学习的图像识别总结_第2张图片

 这个图相当于输出中又加入了一个输入来控制层数增加后梯度消失的问题。

【Resnet】深度残差学习的图像识别总结_第3张图片 

【Resnet】深度残差学习的图像识别总结_第4张图片 

 

你可能感兴趣的:(学习,python,人工智能)