2019-05-02 Day11 整体结构&卷积层

Day11 整体结构&卷积层

7.1 整体结构

Conv -> ReLU -> (Pooling)
类比 Affine -> ReLU

7.2 卷积层

7.2.1 全连接层存在的问题

• 全连接层无法维持数据形状，需要拉平
• 而卷积层可以保持形状不变，输入输出数据称为特征图
• 这也是卷积神经网络适用于图像处理的原因之一

7.2.2 卷积运算

将滤波器在特征图上移动，做乘积累加运算

7.2.3 填充(padding)

向输入数据的周围填入固定的数据

7.2.4 步幅(stride)

应用滤波器的位置间隔称为步幅
假设输入大小为（H，W），滤波器大小为（FH，FW），输出大小为（OH，OW），填充为P，步幅为S

7.2.5 3维数据的卷积运算

通道方向上有多个特征图时，会按通道进行输入数据和滤波器的卷积运算，并将结果相加，从而得到输出。

7.2.6 结合方块进行思考

书写顺序（通道，高，宽）即（channel，height，width）
滤波器的权重顺序（output_channel,input_channel.height,width)

7.2.7 批处理

为了和mini-batch呼应，我们希望卷积运算也能批处理
为此，将数据保存成四维，（batch_num,channel,weight,width)