Group Convolution 分组卷积

Group Convolution分组卷积
最早见于AlexNet——2012年Imagenet的冠军方法，Group Convolution被用来切分网络，使其在2个GPU上并行运行，AlexNet网络结构如下：

Group Convolution 原理

如果输入feature map尺寸为$C\ast H\ast W$，卷积核有N个，输出feature map与卷积核的数量相同也是N，每个卷积核的尺寸为$C\ast K\ast K$，N个卷积核的总参数量为$N\ast C\ast K\ast K$。如下图所示，传统卷积方法和分组卷积方法。

Group Convolution，则是对输入feature map进行分组，然后每组分别卷积。其实也就是，原本应该是$C\ast H\ast W$ 的图片，用N个传统的卷积核$C\ast K\ast K$，就可以生成$N\ast H\ast W$（假设经过池化，图片尺寸不变）这样其实，是一个通道为C来进行整体卷积生成一个图片。而分组卷积，是一个通道为$\frac{C}{G}$来进行整体卷积生成一个图片。
具体来说就是，假设输入feature map的尺寸仍为$C\ast H\ast W$，输出feature map的数量为N个，如果设定要分成G个groups，则每组的输入feature map数量为 $\frac{C}{G}$，每组的输出feature map数量为 $\frac{N}{G}$，每个卷积核的尺寸为 $\frac{C}{G}\ast K\ast K$，卷积核的总数仍为N个，每组的卷积核数量为$\frac{N}{G}$，卷积核只与其同组的输入map进行卷积，卷积核的总参数量为$N\ast \frac{C}{G}\ast K\ast K$，可见，总参数量减少为原来的 $\frac{1}{G}$。

Group Convolution的用途

1. 减少参数量，分成G组，则该层的参数量减少为原来的 $\frac{1}{G}$
2. Group Convolution可以看成是structured sparse，每个卷积核的尺寸由$C\ast K\ast K$ 变为 $\frac{C}{G}\ast K\ast K$，可以将其余$(C-\frac{C}{G})\ast K\ast K$的参数视为0，有时甚至可以在减少参数量的同时获得更好的效果（相当于正则）。

参考文献
https://www.cnblogs.com/shine-lee/p/10243114.html