NIN网络（1*1卷积层的意义）

Network in Network

经过1×1卷积层后，高和宽是不变的，变化的是通道的数目。

NiN去掉了LeNet/AlexNet/VGG最后的全连接层，取而代之地，NiN使用了输出通道数等于标签类别数的NiN块，然后使用全局平均池化层对每个通道中所有元素求平均并直接用于分类。

• NiN重复使用NiN基础块构建网络，NiN基础块由卷积层和代替全连接层的1 × 1卷积层构成。
• NiN去除了容易造成过拟合的全连接层。在最后的输出部分，输出通道数等于标签类别数，再使用全局平均池化层获得最后的分类结果。去除全连接层后，模型参数大小也显著减小。
• NiN的以上设计思想影响了后面一系列卷积神经网络的设计

 总结：对于NIN网络的使用：可以取代原来的FC层再加softmax输出概率类别，直接输出每个类别的概率，每个通道给出一个类别的概率。并且可以对输出的feature map的通道维数进行升降维。