论文阅读笔记之——《Compact Bilinear Pooling》

感觉跟之前看过的论文《实验笔记之——《Multi-scale Location-aware Kernel Representation for Object Detection》复现》很类似,通过kernel的近似来实现高维特征的提取

虽然bilinear 模型取得较好的performance,但是它的成本高(运算量、存储量)。为此作者提出一种紧凑型的bilinear model

Our proposed compact bilinear methods rely on the existence (存在) of low dimensional feature maps for kernel functions.

 

论文阅读笔记之——《Compact Bilinear Pooling》_第1张图片

 

论文阅读笔记之——《Compact Bilinear Pooling》_第2张图片

下面公式给出了bilinear pooling属于二阶的证明,但作者最终也仅仅说,二阶kernel的机制可以提升性能。跟大多数的高阶特征的paper一样。没有办法给出为什么高阶特征可以提升performance。所以对于高阶特征这个问题,一直都认为可解释性差。但从另外一个角度来说,高阶特征,特征的阶数越高,求梯度时,可以保留的信息越多?

论文阅读笔记之——《Compact Bilinear Pooling》_第3张图片

作者通过kernel近似来实现降维

论文阅读笔记之——《Compact Bilinear Pooling》_第4张图片

 

 

 

 

 

 

 

 

 

 

你可能感兴趣的:(深度学习,卷积神经网络)