论文基础常识摘录

一、有关深度学习部分的知识:

        1.有关卷积神经网络基础知识：

①概述：

        卷积神经网络通过局部感受野、权值共享以及池化层操作用于减少网络的参数规模，并使得网络学习到的特征具有位置平移，尺度缩放等方面的不变性。卷积神经网络的局部感受野机制使得神经元之间进行局部连接，每个神经元只需要作用于局部神经元，而不用作用于所有的神经元，这样大大减少了神经元之间连接的数量。神经元的参数共享机制用于减少网络需要学习的参数，对一张图像用相同的卷积核进行卷积操作，意味着能够得到所有神经元处于图像不同位置的完全相同的特征，这样使得卷积神经网络拥有良好的位置平移不变性。池化操作是逐层降低特征图的大小来减少网络的参数数量和计算量，增加了模型的尺度、缩放等局部不变性，提高了网络的容错能力

②卷积层：

        卷积层是卷积神经网络中的特征提取层。

        由于卷积神经网络的权重共享机制，每个卷积核在特征图上进行滑动 卷积操作时只能提取一种特征。浅层卷积层只能提取一些较为简单的特征，高层卷积层能 从低级语义中提取更复杂的高级语义特征

        输出特征图的神经元只连接输入特征图的小片区域，体现了局部共享机制，且一张特征图只利用一种卷积核进行遍历，体现了权值共享机制。每个输出特征图的神经元连接的输入特征图区域的大小叫做感受野。输出值的计算方法是对训练得到的特征图进行卷积操作，之后将激活函数作用于卷积操作后的图片获得最终的特征图

③池化层：

        池化操作使得模型更加关注某些特征是否存在而不是特征的具体位置，增加了网络对图像变化的魯棒性。它对特征图在空间范围内进行降维，减小了下一层的输入特征图大小，进而减少了全连接层参数