ACNet论文阅读笔记

目录

论文信息

摘要

ACB模块结构

实验结果


论文信息

论文链接:《ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks》

发表时间:2019年

来源:ICCV2019

作者:Xiaohan Ding

摘要

本文提出非对称卷积块(ACB),这是一种与结构无关的结构,作为CNN构造块,它使用一维非对称卷积来增强平方卷积核。对于现成的体系结构,我们用ACB取代标准的方形内核卷积层,以构建非对称卷积网络(ACNet),可以对其进行训练以达到更高的准确性。经过培训后,我们等效地将ACNet转换为相同的原始体系结构,因此不再需要额外的计算。

ACB模块结构

ACNet论文阅读笔记_第1张图片

如上图所示,在训练过程中,分别用3x3,1x3,3x1的卷积核对图像进行卷积运算,然后将三个输出进行相加得到输出,利用这样的卷积核来替代单一的卷积核进行运算,作者认为在进行卷积运算时位于卷积核十字位置的像素包含更多的信息,尤其在卷积核的中心位置包含最多的信息,利用非对称卷积增大对信息熵较大位置的信息提取,增强了网络的表达能力。

然而在模型部署中,利用三个卷积代替一个卷积进行计算必然会增加网络的计算量,作者利用等价替换对训练好的三个卷积参数进行融合,并对bn层进行融合,具体如下图所示。

ACNet论文阅读笔记_第2张图片ACNet论文阅读笔记_第3张图片

实验结果

ACNet论文阅读笔记_第4张图片

你可能感兴趣的:(轻量级网络)