深度学习之——卷积神经网络CNN

1. 什么是卷积神经网络

卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks),是深度学习(deep learning)的代表算法之一

2. 卷积神经网络的历史

最有代表性的LeNet-5是由卷积层、池化层、全连接层的顺序连接组成。

2012年的AlexNet在LeNet的基础之上加深了网络的结构,来学习图像更高维的特征。网络的层数更多,使用层叠的卷积层,即卷积层+卷积层+池化层,来提取图像的特征,增加Dropout曾来减少过拟合的风险,使用Relu作为激活函数,放弃Sigmoid。

深度学习之——卷积神经网络CNN_第1张图片

3. CNN

卷积神经网络是包含一个或多个卷积层的神经网络。

3.1 卷积层是包含一个或多个滤波器(filter)的层。每一层包括2步:

Step1:卷积

通过n个Fileter(滤波器)相乘相加实现卷积可以增强原信号特征,并且降低噪音。得到的n层结果被称为Feature Map

如果希望卷积之后的图片不变小,那就做zero padding

Step2:最大池化Max Pool

降采样不会降低物体的可辨识性。

3.2 若干层后最后进行全连接,FC:得到一个一维向量。

优点:

1) 局部性:通过滤波器(局部性和权值共享)减少了神经网络需要训练的参数的个数。

2) 权值共享:极大减少参数数目,需要提取不同的特征,可以设计多个不同的滤波器。参数数目比全连接网络大大降低。

 

更详细介绍可参考:CNN详细介绍

你可能感兴趣的:(自然语言处理)