轻量化网络学习 3 squeezenet

文章目录

  • 归纳
  • 论文

归纳

为减少参数量,本研究提出使用fire module,它是有压缩层和扩张层组成,压缩层是11卷积,输出尽量减少通道数以便在扩张层有较小的输入,扩张层由部分11卷积和部分3*3卷积构成,压缩层的输出分别输入这两部分卷积,然后分别有各自不同的输出,将输出结果进行cat。本研究为了维持精度,还提出了降采样后置的策略,尽量在大分辨率的情况下进行。

论文

1×1卷积替换3×3卷积
减少3×3卷积的输入特征通道数
以上是保证精度,减少参数量,以下是有限的参数上最大化精度
降采样后缀

轻量化网络学习 3 squeezenet_第1张图片
squeeze layer都是由11卷积组成,压缩输出通道数,因为输出要进行下一阶段输入
部分1
1卷积和3*3卷积组成,最后cat
压缩层的卷积核个数要远小于扩张层的卷积核个数,他们都可调

轻量化网络学习 3 squeezenet_第2张图片
注意扩张卷积的输入,两部分的输入都是上一层的输出,即压缩部分的输出分别输入到扩展层。但这两部分的输出是不一样的,可以视为超参数,最后进行cat

你可能感兴趣的:(论文)