阅读Improving Convolutional Networks with Self-Calibrated Convolutions

 本论文在研究CNN性能上不在关注模型结构,而是在考虑改进CNN的基本卷积特征变换过程,即自校准卷积。

1.结构

阅读Improving Convolutional Networks with Self-Calibrated Convolutions_第1张图片

给定一组形状为(C,C,kh,kw)的滤波器组K,其中kh和kw分别是空间高度和宽度,首先将其统一划分为四个部分,每个部分负责不同的功能。 然后将输入X均匀地分成两个部分{X1,X2},然后将每个部分发送到一个特殊的路径中,用于收集不同类型的上下文信息。在第一种途径中,我们利用{K1,K2,K3}对X1执行自校准操作,得到Y1。在第二个路径中,我们执行一个简单的卷积运算:Y2=F1(X2)=X2∗K1,其目标是保留原始空间上下文。然后将两个中间输出{Y1,Y2}连接在一起作为输出。

2.自校准

(1)概述:在两个不同的尺度空间中进行卷积特征变换,一个原始尺度空间,其中特征映射与输入共享相同的分辨率,以及一个下采样后的小潜在空间。小的潜在空间中,由于其视野较大,因此被用作参考。

(2)过程:给定输入X1,我们采用滤波器大小r×r和步长r的平均池化,下采样

T1上的特征转换基于K2执行,Up(·)是一个双线性插值算法,用作上采样

使用Sigmoid激活函数后,对特征提取校准

 最后,再加一层卷积输出

 

 

你可能感兴趣的:(1024程序员节)