细粒度论文笔记：双线性模型 《Bilinear CNN Models for Fine-Grained Visual Recognition》

双线性模型是2015年提出的一种细粒度图像分类模型。该模型使用的是两个并列的CNN模型，这种CNN模型使用的是AlexNet或VGGNet去掉最后的全连接层和softmax层，这个作为特征提取器，然后使用SVM作为最后的线性分类器。当然，作者还在实验中尝试了多种方法，比如最后使用softmax但类别有所减少的分类器，作者在特征提取器上也有三种尝试，分别是使用两个AlexNet，使用一个AlexNet和一个VGGNet,和使用两个VGGNet,这三种特征提取的方法在不同的数据集上效果各有一些小差别，但是总体来说，相比其他类型的细粒度分类方法在精度上有较大提高，比如使用CNN特征的Fisher Vector（FV-CNN）方法，使用SIFT特征的Fisher Vector(FV-SIFT)方法，普通的带全连接层的卷积神经网络（FC-CNN）方法。

       双线性图像分类模型示意图如下：

用于图像分类的双线性模型由四元组组成。 这里和是特征函数，是池化函数，是分类函数。 特征函数是一个映射 ，输入图像和位置并输出大小为 的特征。 我们说的位置通常是可以包含位置和尺度。 特征输出在每个位置上使用矩阵外积进行组合，即在位置处的和的双线性特征组合由双线性函数 给出。

这种模型具有以下优点：

1，该架构能够以平移不变的方式，对局部的对级（pairwise）特征交互进行建模，适用于细粒度分类。

2，能够泛化多种顺序无关的特征描述子，如Fisher 向量，VLAD及O2P。实验中使用使用卷积神经网络的作为特征提取器的双线性模型。

3，双线性形式简化了梯度计算，能够对两个网络在只有图像标签的情况下进行端到端训练。

 

这篇论文中提到的一些技术比如Fisher Vector方法，SIFT特征提取，VLAD，Bag-of-Visual-Words。然后在双线性模型里面的一些细节还是有很多不懂得地方。

参考：

Lin T Y, Roychowdhury A, Maji S. Bilinear CNN Models for Fine-Grained Visual Recognition[J]. 2015:1449-1457.