深度学习（轻量级网络）---MobileNet，SqueezeNet，ShuffleNet

随着越来越复杂的深度架构的提出，一些网络可能就流行几年就走下神坛，但是其背后的设计哲学却是值得学习的。可以看到，网络的深度越来越大，以保证得到更好的准确度。网络结构倾向采用较少的卷积核，如1x1和3x3卷积核，这说明CNN设计要考虑计算效率了。一个明显的趋势是采用模块结构，这在GoogLeNet和ResNet中可以看到，这是一种很好的设计典范，采用模块化结构可以减少我们网络的设计空间，另外一个点是模块里面使用瓶颈层可以降低计算量，这也是一个优势。这篇文章没有提到的是最近的一些移动端的轻量级CNN模型，如MobileNet，SqueezeNet，ShuffleNet等，这些网络大小非常小，而且计算很高效，可以满足移动端需求，是在准确度和速度之间做了平衡。

        本文将把目前流行的应用于移动端的轻量级深度网络详细介绍。