【神经网络】卷积神经网络理论

四、卷积神经网络

4.1 卷积与图像去噪

里面每一个1/9 做成一个模板称为卷积核：

注：在卷积的过程中，要把卷积核（模板）翻转180°再进行滤波；如果没有翻转称为相关。

1、卷积的性质：

叠加性：filter(f1+f2)=filter(f1)+filter(f2)
平移不变形：filter(shift(f))=shift(filter(f))
交换律、结合律、分配率、标量

卷积操作后的图像要小于输入时图像，通过边界填充，可以实现卷积前后图像尺寸不变。

注：深度学习在边界全填充0称为zero padding，还可以拉伸或者镜像填充。

卷积是图像处理中一个基础而重要的图像操作，可以实现平移、平滑、锐化…

2、高斯卷积核（高斯滤波：线性滤波器）：

高斯卷积核（解决平均卷积存在的问题）

卷积核参数小结：

高斯卷积核的特性：

1，去除图像中的“高频”成分（低通滤波器）。
2，俩个高斯卷积核卷积后得到的还是高斯卷积核。
(1)使用多次小方差卷积核连续卷积，可得到与大方差卷积核相同的结果。
(2)使用标准差为σ 的高斯核进行俩次卷积与使用标准差σ√2 的高斯核进行一次卷积相同。（√σ1²+σ2²）

3，可分离，可分解为两个一维高斯的乘积。

卷积操作的运算量：用尺寸m x m的卷积核卷积一个尺寸n x n的图像，计算复杂度为 O(n²m²)

3、图像噪声与中值滤波器（非线性滤波器）：

高斯噪声：

减小高斯噪声：高斯噪声比较大的时候σ ，也使卷积核σ 也大。

通过高斯卷积去噪去不掉椒盐噪声和脉冲噪声。

中值滤波器（非线性滤波器）：

4.2 卷积与边缘提取

边缘的种类：

梯度的模值 ：模值越大，说明是边缘的可能性越大。

噪声对求边缘的影响：

改进：对高斯卷积核先求导，节省了一次卷积

总结：

非极大值抑制（让边变细）：

Canny边缘检测器（双阈值）（解决有噪声的边）：

4.3 纹理表示

1、基于卷积核组的纹理表示法：

思路：利用卷积核组提取图像中的纹理基元；利用基元的统计信息来表示图像中的纹理。（边不好描述纹理）

2、纹理分类任务（忽略纹理的位置）：

关注出现哪种基元对应的纹理以及基元出现的频率。

图像表示向量的维数和卷积核个数相同。

3、卷积核组的设计：

**设计重点：**1、卷积核类型（边缘、条形以及点状）2、卷积核尺度（3-6个尺度）3、卷积核方向（6个角度）

下面我们把纹理表示（纹理核生成的过程交给卷积神经网络）

4、卷积神经网络：

全连接神经网络的瓶颈：

卷积神经网络组成：CONV(卷积层)、RELU(激活层)、POOL(池化层)、FC(全连接层)

卷积网络中的卷积核（HxWxD维）：

注：卷积核中的D 等于前面图像决定的。

卷积步长：

换算关系：

考虑边界填充（解决越卷越小的问题）：

填多少保持与之前大小不变：

卷积层设计总结：

池化层（把特征图尺寸变小）：

池化作用：（把特征图尺寸变小）对每一个特征响应图独立进行，降低特征响应图组中每个特征响应图的宽度和高度，减少后续卷积层的参数的数量，降低计算资源耗费，进而控制过拟合。

eg：图中最大池化后，特征响应图中的75%的响应信息都丢掉，但不改变特征响应图的个数。

训练过程：图像增强