深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection

这篇论文在coco数据集中取得了第二名的成绩。其目标是在取得state-of-the-art的正确率情况下,最小化计算量。主要工作是优化前面的特征抽取网络,设计原则是通道数要少,但是网络更深。该论文的网络设计主要点为:1、concatencated ReLU;2、inception模块;3、HyperNet,加入不同尺度特征图融合。

C.ReLU

C.ReLU的结构如下:
深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection_第1张图片
其前向传播过程为:输入数据经过卷积后,经过Negation(卷积的输出取负),然后Negatin的输出和卷积的输出合并起来,也就是Concatenation步骤。接着合并的输出经过Scale/Shift(可训练的参数,对应于每个通道,跟BN层中的scale/shift一样),最后经过ReLU激活函数。

C.ReLU的设计是受启发于CNN的内部节点的激活模式。在CNN的前面几层,每一层的输出节点趋于”paired”,具体的,某一节点是另一节点的反面(作者的观察。。)。因此才有了卷积层的输出取负,然后拼接起来。另外,由于将原本的卷积层的通道数减半,这使得C.ReLU速度更快。

Inception模块

由于多尺度卷积核的原因,Inception模块能够同时捕捉到小物体和大物体的特征。论文中使用的inception模块:
深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection_第2张图片

HyperNet

受HyperNet的启发,论文使用了多尺度特征融合。直接看网络图会比较清晰一点:
深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection_第3张图片
具体的,先将conv3_4用最大池化进行下采样,然后将conv5_4用反卷积网络进行上采样,最后将下采样的conv3_4,conv4_4和上采样的conv5_4按通道拼接起来。

在上面的网络中K*K C.ReLU,由1*1卷积-K*K C.ReLU-1*1卷积构成,除了第一次的7*7 C.ReLU没有1*1卷积,其他的都有。对于Residual连接,每个连接处中,来自上一层的输入都会经过一个1*1卷积进行下采样,然后进行连接。连接处有:pool1_1与conv2_1,conv2_3与conv3_1,conv3_4与conv4_1,conv4_4与conv5_1。总结起来就是,在特征图大小改变的地方,都会进行跳跃连接。

另外,网络在ReLU激活函数前,都添加了Batch Normalization。

实验结果

速度快了很多,并且mAP也还不错。
深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection_第4张图片

你可能感兴趣的:(深度学习【51】物体检测:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection)