MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

总结

通过拆解cnn的卷积核（用depth-wise和1x1的卷积核来代替原先卷积核），减小计算cost

细节

为了在效果和资源之间tradeoff的模型

普通的cnn，输入是$D_F\times D_F\times M$（其中$D_F$是图像的height、width，$M$是input channel/input depth），输出是$D_G\times D_G\times N$（其中$D_G$是输出的图像height、width，$N$是输出的图像depth）
要达到上面的效果，通常使用$D_K$维度的卷积核，这样计算的复杂度是：
$$D_F\cdot D_F\cdot M\cdot D_K\cdot D_K\cdot N$$

传统cnn有提取、组合特征的效果，在这里可以用depthwise separable convolution解决

提取depth wise的特征，用depth-wise convolution，即卷积核的大小为$D_K\cdot D_k\cdot 1$，共M个，其计算cost为：$D_F\cdot D_F\cdot M\cdot D_K\cdot D_K$
组合特征，用point-wise convolution，即1x1的卷积核，卷积核大小为$1\cdot 1\cdot M$，共N个，其计算cost为：$D_F\cdot D_F\cdot M\cdot N$
上面两个联合起来的cost为：$D_F\cdot D_F\cdot M\cdot D_K\cdot D_K+D_F\cdot D_F\cdot M\cdot N$

计算cost缩减了：
$$\frac{D_F\cdot D_F\cdot M\cdot D_K\cdot D_K+D_F\cdot D_F\cdot M\cdot N}{D_F\cdot D_F\cdot M\cdot D_K\cdot D_K\cdot N}=\frac{1}{N}+\frac{1}{D_K^2}$$

tricks
用了batch-norm，relu
avg-pooling

变种

thinner
卷积核的depth增加折损参数$\alpha$，即最终cost为：$D_F\cdot D_F\cdot \alpha M\cdot D_K\cdot D_K+D_F\cdot D_F\cdot \alpha M\cdot \alpha N$，折损参数$\alpha$可以缩减计算cost约${\alpha }^2$

更节约资源型：给width、height增加折损参数$\rho$，即最终cost为：$\rho D_F\cdot \rho D_F\cdot \alpha M\cdot D_K\cdot D_K+\rho D_F\cdot \rho D_F\cdot \alpha M\cdot \alpha N$，折损参数$\rho$可以缩减计算cost约${\rho }^2$

实验

数据集：ImageNet、Stanford Dogs dataset（
评估指标：accuracy