【小组会整理】ICLR2016Particular object retrieval with integral max-pooling of CNN activations

师弟在这次小组会上讲了一篇论文,在这里整理下疑惑的地方和我觉得能用到的地方。
这篇论文的中心思想就是对max pooling方式进行了改进提出了RMAC pooling。
首先说一下这篇论文的大题流线:MAC改进为RMAC-》目标定位AML(approximate max-pooling localization)-》扩展查询Query expansion。
1、pooling方式介绍
参考了https://www.leiphone.com/news/201707/8sX3XVS7ce2UfkrY.html的相关内容。
max pooling:【小组会整理】ICLR2016Particular object retrieval with integral max-pooling of CNN activations_第1张图片
ave pooling:就是 average pooling,本质上它跟 SUM pooling 是一样的,只不过是将像素值求和后还除以了 feature map 的尺寸。作者以为,AVE pooling 可以带来一定意义上的平滑,可以减小图像尺寸变化的干扰。
sum pooling:指的是针对中间层的任意一个 channel(比如 VGGNet16, pool5 有 512 个 channel),将该 channel 的 feature map 的所有像素值求和,这样每一个 channel 得到一个实数值,N 个 channel 最终会得到一个长度为 N 的向量,该向量即为 SUM pooling 的结果。
mop pooling:源自 Multi-scale Orderless Pooling of Deep Convolutional Activation Features.MOP pooling 的基本思想是多尺度与 VLAD
CROW pooling:在采用 CNN 做 Object Retrieval 的时候,我们有两种方式来更细化 Object Retrieval 的特征:一种是先做物体检测然后在检测到的物体区域里面提取 CNN 特征;另一种方式是我们通过某种权重自适应的方式,加大有物体区域的权重,而减小非物体区域的权重。CROW pooling ( Cross-dimensional Weighting for Aggregated Deep Convolutional Features ) 即是采用的后一种方法,通过构建 Spatial 权重和 Channel 权重,CROW pooling 能够在一定程度上加大感兴趣区域的权重,降低非物体区域的权重。
RMAC pooling:源自于 Particular object retrieval with integral max-pooling of CNN activations.在这篇文章中,作者提出来了一种 RMAC pooling 的池化方式,其主要的思想还是跟上面讲过的 MOP pooling 类似,采用的是一种变窗口的方式进行滑窗,只不过在滑窗的时候,不是在图像上进行滑窗,而是在 feature map 上进行的 (极大的加快了特征提取速度),此外在合并 local 特征的时候,MOP pooling 采用的是 VLAD 的方式进行合并的,而 RMAC pooling 则处理得更简单 (简单并不代表效果不好),直接将 local 特征相加得到最终的 global 特征。
2、Query expansion
n (QE). Re-ranking brings positive images at the very top ranked positions. Then,
we collect the 5 top-ranked images, merge them with the query vector, and compute their mean.
Finally, the similarity to this mean vector is adopted to re-rank once more the top N images.
用最少的力气做最多的事,很奇妙的想法,感觉以后用得上。
3、了解一下ICLR(international conference on learning representations)
2013年发起,今年才第五届.由位列深度学习三大巨头之二的 Yoshua Bengio 和 Yann LeCun 牵头创办。推行的 Open Review 评审制度。
Yoshua Bengio 是蒙特利尔大学教授,深度学习三巨头之一,他领导蒙特利尔大学的人工智能实验室(MILA)进行 AI 技术的学术研究。MILA 是世界上最大的人工智能研究中心之一,与谷歌也有着密切的合作。
而 Yann LeCun 就自不用提,同为深度学习三巨头之一的他现任 Facebook 人工智能研究院(FAIR)院长、纽约大学教授。作为卷积神经网络之父,他为深度学习的发展和创新作出了重要贡献。

你可能感兴趣的:(组会整理)