MobileNet 原理

一、参数数量和理论计算量

1、定义

参数数量(params):关系到模型大小,单位通常为M,通常参数用 float32 表示,所以模型大小是参数数量的 4 倍
理论计算量(FLOPs):

是 floating point operations 的缩写(注意 s 小写),可以用来衡量算法/模型的复杂度,这关系到算法速度,大模型的单位通常为 G,小模型单位通常为 M
通常只考虑乘加操作(Multi-Adds)的数量,而且只考虑 CONV 和 FC 等参数层的计算量,忽略 BN 和PReLU 等等。一般情况,CONV 和 FC 层也会 忽略仅纯加操作 的计算量,如 bias 偏置加和 shotcut 残差加等,目前技术有 BN 的 CNN 可以不加 bias

2、计算公式

MobileNet 原理_第1张图片

 

二、MobileNetV1: Efficient Convolutional Neural Networks for Mobile Vision Applications

1、能够减少参数数量和计算量的原理

MobileNet 原理_第2张图片

 

MobileNet 原理_第3张图片

2、MobileNetV1 中引入的两个超参数

MobileNet 原理_第4张图片 

3、标准卷积和深度可分离卷积的区别

MobileNet 原理_第5张图片

三、MobileNetV2:Inverted Residuals and Linear Bottlenecks

1、主要改进点

MobileNet 原理_第6张图片

 MobileNet 原理_第7张图片

2、和 MobileNetV1 的区别

 在这里插入图片描述

3、和 ResNet 的区别

在这里插入图片描述

   

转载 https://blog.csdn.net/mzpmzk/article/details/82976871

 

你可能感兴趣的:(深度学习)