HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network

最近在研究一些模型网络简化的问题，因此我看到了一篇挺有意思的论文。HS-ResNet: Hierarchical-Split Block on Convolutional Neural Network。这篇文章时对传统的卷积模块进行修改，去掉了冗余块特征信息。简化网络结构。但是并没有降低网络准确度。

从这个准确度图中我们可以看到整个模型相比于各种 ResNet50的变体，准确度都时有提升。整篇文章的思路就是下面这幅图可以准确概括出来的。

 

上图给出了本文所设计的HSB的网络结构示意图，经过卷积后，特征被Split成s组，每组具有同等的通道通道数。每组特征将被送入到卷积，输出特征表示为。该文创造性的将继续拆分并将与下一组的一起送入。最终的输出特征中小感受野可以聚焦于细节部分，这对于小目标识别很重要，而大感受野特征有助于捕获大目标。​ 在该文中，作者通过控制组数与通道数约束参数量和计算量。更大的组数意味着更强的多尺度提取性能，其他具体实现细节。我在这里就不细说了。其中这篇文章整体的思路跟华为的ghostnet 很相似。ghostnet 做了一次分解，这里进行了多次分解。整个效果还是有提升的。