神经网络与深度学习:卷积神经网络

卷积神经网络

  • 1.深度学习基础
  • 2.图像识别与深度学习
  • 3.图像卷积
    • 3.1 图像卷积运算
    • 3.2 图像卷积在机器学习中的应用
  • 4.卷积神经网络
  • 5.卷积神经网络的优化


1.深度学习基础

特征工程:尽可能选择和构建出好的特征,使得机器学习算法能够达到最佳性能。
神经网络与深度学习:卷积神经网络_第1张图片

深度神经网络:有多层隐含层的神经网络。

深度学习自动的从数据中学习与任务相关的特征;提取出的特征缺乏可解释性。

端到端学习自动从数据中学习特征
(端到端思想就是输入原始特征,输出预测结果,
不需要像传统机器学习算法那样进行一系列的特征提取)

数据驱动:当某个任务的数据量大到一定程度,机器就可能在该任务上超过人类。

深度学习三要素:数据、算法、计算力

  • 数据量越大,深度学习的优势越明显
  • 大规模深层神经网络需要算法创新改进,使深度学习的性能和速度得到保障
  • 训练大规模深层神经网络,需要强大的计算资源

2.图像识别与深度学习

图像识别:利用计算机对图像进行处理分析,使机器能够理解图像中的内容。
图像识别核心问题:图像特征的提取
黑白图像可表示为二维张量、彩色图像可表示为三维张量

图像特征包含:形状特征、颜色特征、纹理特征
神经网络与深度学习:卷积神经网络_第2张图片


3.图像卷积

3.1 图像卷积运算

图像卷积运算:对图像中的每个像素点,用其周围像素点的灰度值加权求和调整该点的灰度值
神经网络与深度学习:卷积神经网络_第3张图片

卷积核/卷积模板 n×n

神经网络与深度学习:卷积神经网络_第4张图片
一般使用3×3、5×5、7×7

将图像和卷积核一一对应,加权求和

原图像变小解决办法:对于3×3,可以在原图外围补充一圈0、或将外围数字向外延展
神经网络与深度学习:卷积神经网络_第5张图片
步长(stride):卷积核一次移动的像素数
补偿等于卷积核的边长n时,相当于对图像缩小了n倍
神经网络与深度学习:卷积神经网络_第6张图片

3.2 图像卷积在机器学习中的应用

均值模糊
4领域平均法 | 8领域平均法
对图像进行模糊后,可以将图像中的高频噪声过滤掉。
所以对图像的卷积运算,也成称为平滑或者滤波。卷积核也称为滤波器。
神经网络与深度学习:卷积神经网络_第7张图片
卷积核越大、越模糊
神经网络与深度学习:卷积神经网络_第8张图片

高斯模糊:根据高斯分布的取值来确定权值。
神经网络与深度学习:卷积神经网络_第9张图片
高斯模糊在平滑物体表面的同时, 能够更好的保持图像的边缘和轮廓。
神经网络与深度学习:卷积神经网络_第10张图片
边缘检测:计算当前点和周围点的颜色值或灰度值的差别。
神经网络与深度学习:卷积神经网络_第11张图片
神经网络与深度学习:卷积神经网络_第12张图片
神经网络与深度学习:卷积神经网络_第13张图片
图像卷积就是提取特征的一个过程


4.卷积神经网络

Convolutional Neural Networks,CNN
感受野(receptive field):一个神经元所接受并相应的刺激区域

一个卷积核得到一种特征,多个卷积核得到多种特征,进行组合。

  • 采用局部连接权值共享机制
  • 卷积核中的权值是从数据中学习得到的

卷积神经网络的结构

神经网络与深度学习:卷积神经网络_第14张图片
处在网络前端的特征层,用来捕捉图像局部细节信息;
后面的特征层,捕捉图像中更加抽象的信息。

卷积层:特征提取层

  • 特征图
  • 每个卷积层中包含有多个卷积核
  • 激励函数:ReLU
    神经网络与深度学习:卷积神经网络_第15张图片

池化层:特征映射层

  • 下采样
  • 在减小数据的处理量的同时,保留有用的信息

最大池化
神经网络与深度学习:卷积神经网络_第16张图片
神经网络与深度学习:卷积神经网络_第17张图片
在缩小图像的同时,对每个块中最亮的像素采样,从而得到图像的主要轮廓。
进一步获取更加抽象的信息
提高了泛化性,防止过拟合。

神经网络与深度学习:卷积神经网络_第18张图片
神经网络与深度学习:卷积神经网络_第19张图片


5.卷积神经网络的优化

dropout()
为了防止过拟合,在训练复杂的前馈型神经网络时,可以加入dropout操作

神经网络与深度学习:卷积神经网络_第20张图片
神经网络与深度学习:卷积神经网络_第21张图片

级联卷积核

神经网络与深度学习:卷积神经网络_第22张图片

神经网络与深度学习:卷积神经网络_第23张图片

你可能感兴趣的:(深度学习,神经网络,cnn)