【动手学习深度学习】7 卷积神经网络基础

目录

7.1. 卷积

7.2. 图像卷积

7.3. 填充与步幅

7.3.1. 填充

7.3.2. 步幅 

7.3.3. 代码

7.4. 多输入多输出通道

7.4.1. 多输入通道

7.4.2.  多输出通道

7.4.3. 1×1 卷积层

7.4.4. 二维卷积层

7.4.5. 代码

7.5. 池化层

7.5.1. 二维最大池化

7.5.2. 池化层的填充、步幅和多通道

7.5.3. 平均池化层

7.5.4. 代码

nn.Conv2d()

nn.MaxPool2d()

---

引入CNN原因：

MLP问题：当图片像素很大时，网络的每次输入维度会很高，需要极好的硬件才能处理，并且需要消耗大量时间。

7.1. 卷积

一个系统，输入不稳定，输出稳定，可以用卷积求系统存量。

eg：食物与消化：在t时刻胃中食物量的多少。输入是某时刻吃的食物，输出是胃消化食物的快慢(速率)。在一个特定时刻

输入 输出

考虑t某时刻胃中的食物。在x时刻摄入食物为f(x)，到t时刻消化了g(t-x)，胃中还剩f(x).g(t-x)。由于计算的是0-t时间内还剩的食物，将0-t时间内所有剩余食物加起来，自然就是结果。

卷积公式： 

卷积用图像表示 g(t)翻转

7.2. 图像卷积

eg:蝴蝶与飓风

（1） 飓风在某时刻t发生了，在t时刻之前，有很多蝴蝶煽动翅膀，它们煽动翅膀这件事情，会对飓风的发生产生影响。蝴蝶煽动翅膀的影响看作f，这个影响是会随着时间的变化而变化的，使用g函数来描述影响的衰减。那么此时卷积处理的就是在飓风发生的时候，蝴蝶煽动翅膀这件事对飓风发生产生的影响。

（2） x时刻发生了一件事会对t时刻产生影响，具体的影响会随着t-x这段时间进行变化，g函数规定了这段时间的变化：之前发生的一些事情，随着时间影响力的变化。

（3） 对于图像的卷积来说，可以得到很多像素点怎么对一个像素点产生影响的。卷积核就是规定了周围一圈（3*3）（两圈就是5*5）的像素点是如何对当前的像素点产生影响的。

g和w都指一个东西，两种理解方式

适用于计算机视觉的神经网络架构：1、平移不变性；2、局部性

（1） 利用图像卷积提取局部特征。

（2） 过滤器：像素点通过卷积核对其周围像素点进行试探，如果不想考虑进去的因素，就把对应因素的值设为0，保留了周围有用的特征。

（3） 像素点通过卷积核，可以将它周围有用的（指定的）特征保留下来。那么卷积的结果其实就是局部特征匹配的情况！！！！就可以得到特征信息啦，利用这些特征信息就可以进行图像识别。

上述部分来自从“卷积”、到“图像卷积操作”、再到“卷积神经网络”，“卷积”意义的3次改变_哔哩哔哩_bilibili

7.3. 填充与步幅

填充和步幅可用于有效地调整数据的维度

7.3.1. 填充

原因：丢失边缘像素

具体过程：在输入图像的边界填充元素（通常填充元素是0）来增加输出的高度和宽度。这常用来使输出与输入具有相同的高和宽。

7.3.2. 步幅 

为了高效计算或是缩减采样次数，卷积窗口可以跳过中间位置，每次滑动多个元素。

7.3.3. 代码

import torch
from torch import nn

##一般的例子
nn.Conv2d(1, 1, kernel_size=3, padding=1, stride=2)
#kernel_size指卷积核的形状
#padding指填充 stride指步幅
#高度和宽度两边的填充为1
#步幅为2

##复杂的例子
nn.Conv2d(1, 1, kernel_size=(3, 5), padding=(0, 1), stride=(3, 4))
#高度和宽度两边的填充分别为0和1
#垂直步幅为3，水平步幅为4

7.4. 多输入多输出通道

7.4.1. 多输入通道

eg：RGB的图片就是多通道输入

 输出是单通道

优点：输入通道核识别并组合输入中的模式

7.4.2.  多输出通道

原理：多个三维卷积核，每个核生成一个输出通道

 优点：每个输出通道可以识别特定模式

7.4.3. 1×1 卷积层

作用：融合通道

• 当以每像素为基础应用时，1×1卷积层相当于全连接层。

• 1×1卷积层通常用于调整网络层的通道数量和控制模型复杂性

7.4.4. 二维卷积层

总结： 

• 输出通道数是卷积层的超参数
• 每个输入通道有独立的二维卷积核，所有通道结果相加得到一个输出通道结果
• 每个输出通道有独立的三维卷积核

7.4.5. 代码

1、手写

import torch
from d2l import torch as d2l

#多输入
def corr2d_multi_in(X, K):
    # 先遍历“X”和“K”的第0个维度（通道维度），再把它们加在一起
    return sum(d2l.corr2d(x, k) for x, k in zip(X, K))

#多输出
def corr2d_multi_in_out(X, K):
    # 迭代“K”的第0个维度，每次都对输入“X”执行互相关运算。
    # 最后将所有结果都叠加在一起
    return torch.stack([corr2d_multi_in(X, k) for k in K], 0)

2、pytorch调用

import torch
from torch import nn

##一般的例子
nn.Conv2d(1, 1, kernel_size=3, padding=1, stride=2)
#第一个1为输入通道，第二个1为输出通道

7.5. 池化层

• 池化层返回窗口中最大或平均值
• 缓解卷积层会位置的敏感性
• 同样有窗口大小、填充、和步幅作为超参数

7.5.1. 二维最大池化

返回滑动窗口中的最大值

通过该操作，可以容忍1像素移位 

7.5.2. 池化层的填充、步幅和多通道

• 池化层与卷积层类似，都具有填充和步幅
• 没有可学习的参数
• 在每个输入通道应用池化层以获得相应的输出通道
• 输出通道数=输入通道数

7.5.3. 平均池化层

最大池化层:每个窗口中最强的模式信号

平均池化层:将最大池化层中的“最大”操作替换为“平均”

7.5.4. 代码

 

nn.Conv2d()

nn.Conv2d是二维卷积方法，相对应的还有一维卷积方法nn.Conv1d,常用于文本数据的处理，而nn.Conv2d一般用于二维图像。

先看一下接口定义：

class torch.nn.Conv2d(in_channels,
	out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1,
	bias=True)

参数解释：

具体查看：Pytorch中nn.Conv2d的参数用法 channel含义详解 

nn.MaxPool2d()

class torch.nn.MaxPool2d(kernel_size, stride=None, padding=0, 
dilation=1, return_indices=False, ceil_mode=False)

参数：