Network in Network -- 论文笔记

1.概述：

作者的想法就是将ConVNet的filter用micro network代替，FC层用global average pooling代替。这样做的好处就是，micro network比filter能提取到更加抽象的特征，global average polling没有参数，相比于FC，能够消除FC层带来的overfitting的影响。

2.idea：

1）：MLP Convolution Layers：就是一个简单的多层感知机，用来取代传统ConVNet的filter：

2）global average pooling：用来代替传统ConVNet的FC层。在最后一个feature map层上，对每个feature map分别取均值，然后连接成一个向量后，输入softmax分类器。global average pooling也可以当做一个很好地regularilizer：

3）可以像传统的ConVNet一样，设置每一层micro network的个数，也可以设置micro network的层数和隐含层神经元的个数。

3.实验结果：

1）一些数据集的测试结果：

2）作者也将NIN网络中最后一层feature map进行可视化，证明NIN有很强的局部感受野建模能力（top10的feature map）：