【Rep】RepBNN: towards a precise Binary Neural Network with Enhanced Feature Map viaRepeating(2022.1)

论文题目:RepBNN:通过重复增强特征映射的精确二进制神经网络

论文地址:https://arxiv.org/abs/2207.09049

摘要:二进制神经网络(BNN)是卷积神经网络的极端量化版本,所有特征和权值都映射到1比特。 尽管BNN节省了大量的内存和计算量,使得CNN能够在边缘或移动设备上应用,但由于二值化后的表示能力下降,BNN的网络性能下降。 本文提出了一种新的可替换且易于使用的卷积模块REPCONV,该模块通过将输入或输出沿信道维复制β倍来增强特征映射,而无需额外的参数数目和卷积计算代价。 我们还定义了一组Reptran规则,用于在BNN模块中使用Repconv,如二进制卷积、全连通层和批归一化。 实验表明,经过Reptran变换后,一组高被引BNN获得了比原BNN版本普遍更好的性能。 例如,rep-recu-resnet20即一个repbconv增强的recu-resnet-20[22]的TOP-1准确率在CIFAR-10上达到88.97%,比原网络提高了1.47%。 Rep-adambnn-reactnet-a[14][13]在ImageNet上达到了71.342%,是BNNS最新的结果。代码链接

1 介绍

        众所

你可能感兴趣的:(Rep,计算机视觉,人工智能)