轻量级网络模型优化进化史总结——Inception V1-4,ResNet,Xception,ResNeXt,MobileNe,,ShuffleNet,DenseNet
摘要网络从轻量级的LeNet到更深层结构的经典AlexNet、VGG等网络结构,对于无论是recognition还是classification的精确度都有了一个很好的提升,但随之而来也带来了许多问题。例如在训练中常常会遇到的梯度弥散/爆炸、过拟合、欠拟合、泛华性能差、准确度退化等等,以及随着网络变深带来的运算时间、空间的代价剧增。尽管显卡的运算性能也在不断提升,但是从根本算法上解决才是最为行之有