MobileNet的理解

(1)MobileNet是一个轻量级卷积神经网络,它进行卷积的参数比标准卷积要少很多。

MobileNet的基本单元是深度级可分离卷积其可以分解为两个更小的操作:depthwise convolutionpointwise convolution

Depthwise convolution和标准卷积不同,对于标准卷积其卷积核是用在所有的输入通道上(input channels),而depthwise针对每个输入通道采用不同的卷积核,就是说一个卷积核对应一个输入通道。一般由Mn*n*1的卷积核构成,M是输入数据的深度。如下图所示。

pointwise convolution其由N1*1*M个卷积核构成,其中N是输出数据的深度。如下所示

 

 

                                  MobileNet的理解_第1张图片

(2)Depthwise convolution与标准卷积的不同之处在于进行卷积的操作,如下图所示(左边的Depthwise的卷积,右边的为标准卷积的)

 MobileNet的理解_第2张图片MobileNet的理解_第3张图片   

总体下来的卷积如下图所示

                                                              MobileNet的理解_第4张图片

(3)对比标准卷积的计算量

与标准卷积核的参数量对比

假设输入一张 D*D*M的特征图输出特征图是D*D*N

标准K*K卷积核计算量为:D*D*M*N*K*K

     可分离卷积中Depthwise卷积计算量为:K*K*M*D*D

                          Pointwise卷积的计算量为:M*N*D*D

  separate的计算量就为: K*K*M*D*D+ M*N*D*D       进行相除

                                                         

显然,参数量比标准卷积少得多。

 

 

 

 

 

 

 

你可能感兴趣的:(深度学习,神经网络,机器学习,pytorch)