卷积参数量计算

普通卷积

参数量

参数量是参与计算参数的个数,占用内存空间，假设输入通道和输出通道都是1，核大小$(K,K)$，输入map大小为:

$(H_{in},W_{in})$，输出map大小为$(H_{out},W_{out})$，考虑偏置，不补0的卷积。

其参数量为：K*K+1

若考虑输入通道$C_{in}$和输出通道$C_{out}$，则参数量为：$(C_{in}\ast (K\ast K)+1)\ast C_{out}$

---

计算量（乘加次数）

MAC(Multiply Accumulate)，需要考虑输出map的大小，1个MAC算两次操作

假设输入通道和输出通道都是1，核大小为$K\ast K$，输入map大小为

$(H_{in},W_{in})$，输出map大小为$(H_{out},W_{out})$，考虑偏置，不补0的卷积。

其计算量为：$K\ast K\ast H_{out}\ast W_{out}$

若考虑输入通道$C_{in}$和输出通道$C_{out}$，
计算量为：$C_{in}\ast K\ast K\ast H_{out}\ast W_{out}\ast C_{out}$

---

FLOPs(floating point operations)

浮点运算量，指计算量，跟乘加次数有点不一样，若考虑偏置

则$FLOPs=(C_{in}\ast 2\ast K\ast K)\ast H_{out}\ast W_{out}\ast C_{out}$

不考虑偏置的情况下

则$FLOPs=(C_{in}\ast 2\ast K\ast K-1)\ast H_{out}\ast W_{out}\ast C_{out}$

注意：这里乘和加分开，加的操作因为n个数相加所以减1了，考虑偏置则补掉了加1

---

可分离卷积

可分离的卷积具体操作是先对输入map每单个channel进行卷积的操作，然后再进行1维卷积实现输出通道的改变。

假设输入通道和输出通道都是1，核大小为$(K,K)$，输入map大小为

$(H_{in},W_{in})$，输出map大小为$(H_{out},W_{out})$，考虑偏置，不补0的可分离卷积。

考虑输入通道$C_{in}$和输出通道$C_{out}$

参数量：

$C_{in}\ast K\ast K+C_{out}\ast (C_{in}\ast 1\ast 1+1)$， 后面加1是偏置

MAC计算量：

$C_{in}\ast K\ast K\ast H_{out}\ast W_{out}+C_{in}\ast C_{out}\ast H_{out}\ast W_{out}$

FLOPs计算量为：

$(C_{in}\ast 2\ast K\ast K-1)\ast H_{out}\ast W_{out}+(C_{in}\ast 2\ast 1\ast 1)\ast H_{out}\ast W_{out}\ast C_{out}$

参考：

链接：https://www.jianshu.com/p/c2a0ba5bb3d1