MobileNet v1 结构详解

MobileNet v1主要提出的是深度可分离卷积,卷积计算时间可缩短8~9倍。
论文参考链接

正常的卷积是这样的,
输入Feature map, 记作F, size为Df x Df x M, Df是长和宽,M是channel
然后卷积核是Kernel, 记作K,size为Dk x Dk x M x N
解释一下,这里的Dk x Dk x M 和 F 是相同的channel
卷出来的长和宽是(Df / Dk + 1), channel是1,
然后纵向有N个这样的叠加,所以最终output的size为 Dg x Dg x N
MobileNet v1 结构详解_第1张图片
现在把K中一个的size从Dk x Dk x M 改为 Dk x Dk x 1
那么F 的一个channel 和 Dk x Dk x 1大小的卷积核 卷积以后得到 Dg x Dg x 1的output
一共M 个channel, 所以需要M个Dk x Dk x 1的卷积核
MobileNet v1 结构详解_第2张图片
这就是depthwise卷积,F 和 M个Dk x Dk x 1的卷积核 卷积得到 Dg x Dg x M的output

而最终需要得到Dg x Dg x N 的output,
所以再来个 1x1 卷积
Dg x Dg X M 和 它卷积 要得到 Dg x Dg x N,
所以1x1卷积核size为1x1xM, 叠加N个
MobileNet v1 结构详解_第3张图片
整个过程如下图
MobileNet v1 结构详解_第4张图片
也就是把原本的卷积核 Dk x Dk x M x N,
变为M个 Dk x Dk x 1 和 N个 1 x 1 x M

实际应用中 M 个 Dk x Dk x 1 只需要指定是depthwise卷积即可。

比如卷积核是conv(kernel: 5x5, channel:16, stride:2)
input channel为8
用深度可分离卷积之后为
dwconv(kernel:5x5, channel: 8, stride:2) 和 conv(kernel: 1x1, channel: 16, stride:1)
其中dwconv为depthwise conv

计算量:
普通卷积计算量为Dk * Dk * M * N * Df * Df
分解之后为在这里插入图片描述
计算量会缩小:
MobileNet v1 结构详解_第5张图片
在3x3卷积核的情况下,Dk = 3,
计算量会减少8~9倍

你可能感兴趣的:(DeepLearning,深度学习,计算机视觉,神经网络,1024程序员节)