《动手学习深度学习》之三：1.卷积神经网络（CNN）基础（打卡2.4）

卷积神经网络（CNN）

1.卷积神经网络基础

1.1.基础概念

1.1.1.卷积层
1.1.2.填充、步幅、输入通道、输出通道的含义
1.1.3.池化层
1.1.4.二维互相关运算
二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。

import torch 
import torch.nn as nn

def corr2d(X, K):
    H, W = X.shape
    h, w = K.shape
    Y = torch.zeros(H - h + 1, W - w + 1)
    for i in range(Y.shape[0]):
        for j in range(Y.shape[1]):
            Y[i, j] = (X[i: i + h, j: j + w] * K).sum()
    return Y

构造上图中的输入数组X、核数组K来验证二维互相关运算的输出。

X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]])
K = torch.tensor([[0, 1], [2, 3]])
Y = corr2d(X, K)
print(Y)

1.2.二维卷积层

1.2.1.用于处理图像数据
1.2.2.二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。

class Conv2D(nn.Module):
    def __init__(self, kernel_size):
        super(Conv2D, self).__init__()
        self.weight = nn.Parameter(torch.randn(kernel_size))
        self.bias = nn.Parameter(torch.randn(1))

    def forward(self, x):
        return corr2d(x, self.weight) + self.bias

# 例子
X = torch.ones(6, 8)
Y = torch.zeros(6, 7)
X[:, 2: 6] = 0
Y[:, 1] = 1
Y[:, 5] = -1
print(X)
print(Y)

# 我们希望学习一个1*2的卷积层，通过卷积层来检测颜色边缘
conv2d = Conv2D(kernel_size=(1, 2))
step = 30
lr = 0.01
for i in range(step):
    Y_hat = conv2d(X)
    l = ((Y_hat - Y) ** 2).sum()
    l.backward()
    # 梯度下降
    conv2d.weight.data -= lr * conv2d.weight.grad
    conv2d.bias.data -= lr * conv2d.bias.grad
    
    # 梯度清零
    conv2d.weight.grad.zero_()
    conv2d.bias.grad.zero_()
    if (i + 1) % 5 == 0:
        print('Step %d, loss %.3f' % (i + 1, l.item()))
        
print(conv2d.weight.data)
print(conv2d.bias.data)

1.2.3.互相关运算与卷积运算
卷积层得名于卷积运算，但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组上下翻转、左右翻转，再与输入数组做互相关运算，这一过程就是卷积运算。由于卷积层的核数组是可学习的，所以使用互相关运算与使用卷积运算并无本质区别。
1.2.4.特征图与感受野

特征图（feature map）：二维卷积层 输出 的二维数组可以看作是输入在空间维度（宽和高）上某一级的表征，也叫特征图（feature map）。
感受野（receptive field）：影响元素x的前向计算的所有可能输入区域（可能大于输入的实际尺寸）叫做x的感受野（receptive field）。
我们可以通过更深的卷积神经网络使特征图中单个元素的感受野变得更加广阔，从而捕捉输入上更大尺寸的特征。

1.2.5.卷积层的简洁实现
我们使用Pytorch中的nn.Conv2d类来实现二维卷积层，主要关注以下几个构造函数参数：
• in_channels (python:int) – Number of channels in the input imag
• out_channels (python:int) – Number of channels produced by the convolution
• kernel_size (python:int or tuple) – Size of the convolving kernel
• stride (python:int or tuple, optional) – Stride of the convolution. Default: 1
• padding (python:int or tuple, optional) – Zero-padding added to both sides of the input. Default: 0
• bias (bool, optional) – If True, adds a learnable bias to the output. Default: True
• forward函数的参数为一个四维张量，形状为(N,C_in,H_in,W_in)，返回值也是一个四维张量，形状为(N,C_out,H_out,W_out)，其中N是批量大小，C,H,W分别表示通道数、高度、宽度。
代码讲解：

X = torch.rand(4, 2, 3, 5)
print(X.shape)

conv2d = nn.Conv2d(in_channels=2, out_channels=3, kernel_size=(3, 5), stride=1, padding=(1, 2))
Y = conv2d(X)
print('Y.shape: ', Y.shape)
print('weight.shape: ', conv2d.weight.shape)
print('bias.shape: ', conv2d.bias.shape)

1.3.填充

1.3.1.填充（padding）是指在输入高和宽的两侧填充元素（通常是0元素），图里我们在原输入高和宽的两侧分别添加了值为0的元素
1.3.2.

1.4.步幅

1.4.1.在互相关运算中，卷积核在输入数组上滑动，每次滑动的行数与列数即是步幅（stride）
1.4.2.

1.5.多输入通道和多输出通道

1.5.1.之前的输入和输出都是二维数组，但真实数据的维度经常更高。例如，彩色图像在高和宽2个维度外还有RGB（红、绿、蓝）3个颜色通道。假设彩色图像的高和宽分别是h和w（像素），那么它可以表示为一个3hw的多维数组，我们将大小为3的这一维称为通道（channel）维。
1.5.2.多输入通道:卷积层的输入可以包含多个通道

1.5.3.多输出通道:卷积层的输出也可以包含多个通道
对于输出通道的卷积核，我们提供这样一种理解：一个cikhkw的核数组可以提取某种局部特征,，但是输入可能具有相当丰富的特征，我们需要有多个(co个)这样的cikhkw的核数组，不同的核数组提取的是不同的特征。
卷积层的输出也可以包含多个通道，设卷积核输入通道数和输出通道数分别为ci和co，高和宽分别为kh和kw。如果希望得到含多个通道的输出，我们可以为每个输出通道分别创建形状为的核数组，将它们在输出通道维上连结，卷积核的形状即。
1.5.4.1x1卷积核
1x1卷积核可在不改变高宽的情况下，调整通道数 ;假设我们将通道维当作特征维，将高和宽维度上的元素当成数据样本，那么1x1卷积层的作用与全连接层等价

1.5.5.卷积层与全连接层的对比
二维卷积层经常用于处理图像，与此前的全连接层相比，它主要有两个优势：
• 一是全连接层把图像展平成一个向量，在输入图像上相邻的元素可能因为展平操作不再相邻，网络难以捕捉局部信息。而卷积层的设计，天然地具有提取局部信息的能力。
• 二是卷积层的参数量更少。使用卷积层可以以较少的参数数量来处理更大的图像

1.6.池化层

1.6.1.二维池化层

池化层主要用于缓解卷积层对位置的过度敏感性。同卷积层一样，池化层每次对输入数据的一个固定形状窗口（又称池化窗口）中的元素计算输出，池化层直接计算池化窗口内元素的最大值或者平均值，该运算也分别叫做最大池化或平均池化。
在处理多通道输入数据时，池化层对每个输入通道分别池化，但不会像卷积层那样将各通道的结果按通道相加。这意味着池化层的输出通道数与输入通道数相等。
1.6.2.池化层的简洁实现
我们使用Pytorch中的nn.MaxPool2d实现最大池化层，关注以下构造函数参数：
• kernel_size – the size of the window to take a max over
• stride – the stride of the window. Default value is kernel_size
• padding – implicit zero padding to be added on both sides
• forward函数的参数为一个四维张量，形状为(N,C,H_in,W_in)，返回值也是一个四维张量，形状为(N,C,H_out,W_out)，其中N是批量大小，C,H,W分别表示通道数、高度、宽度。

X = torch.arange(32, dtype=torch.float32).view(1, 2, 4, 4)
pool2d = nn.MaxPool2d(kernel_size=3, padding=1, stride=(2, 1))
Y = pool2d(X)
print(X)
print(Y)

平均池化层使用的是nn.AvgPool2d，使用方法与nn.MaxPool2d相同。