关于卷积核大小的论文与思路

随着近些年深度学习的发展，人们在选用卷积神经网络时通常都会默认卷积核为3×3 或者5×5的，感觉像已经是一个默认的公式一样了。正常来说大的卷积核不是可以获得更大的感受野对模型性能更好吗？怎么大家都不用呢。也许你会是这样模型复杂度高了呀，Flops 大了。那我们可不可用一种方法降低复杂度而使用大的卷积核呢。然后我看到了这篇论文。Scaling Up Your Kernels to 31x31: Revisiting Large Kernel Design in CNNs .这篇文章讨论了大的卷积核的作用。

一般来讲，大核卷积计算量非常大。这是因为核尺寸会导致参数量与FLOPs的二次提升，而这个弊端可以通过Depth-wise卷积解决。比如，RepLKNet的的卷积核从提升到了[31,29,27,13]，但FLOPs与参数量仅增加18.6%与10.4%。实际上，计算复杂度主要由1×1卷积主导。

上图给出了RepLKNet 的结构，这篇文章给了大家一个思考的方向，对于一些比较常用的习以为常的东西，大家还是可以多思考一下的。