CNN特点

CNN特点

• 局部连接
• 权值共享(共享卷积核)
• 自动提取特征,逐层组合

局部连接
图像的空间联系是局部的,就像人是通过一个局部的感受野去感受外界图像一样,每一个神经元都不需要对全局图像做感受,每个神经元只感受局部的图像区域,然后在更高层,将这些感受不同局部的神经元综合起来就可以得到全局的信息了。
先理解全连接:在两层神经元之间每两个神经元都存在一个连接,假设n-1层有200个神经元,n层有200个神经元,那么两层之间的连接数为200200
那么局部连接即两层神经元之间每两个神经元并不都存在一个连接,从而减少连接数
假设经过局部连接后,局部连接即n-1层的神经元必与n层的任意20个神经元存在连接,那么两层之间的连接数为200
20

权值连接
如果n-1层200个神经元的20个参数都是相同的,也就是说每个神经元用的是同一个卷积核去卷积图像。那么两层之间就只有20个参数了,不管n-1层的神经元个数有多少,两层间的连接只有20个参数,这就是权值共享!

自动提取特征,逐层组合
进行卷积即提取特征,但权值共享则两层之间使用同一个模板,导致只提取出一种特征。所以需要在卷积与神经元间加20个滤波器,一个滤波器提取一种特征,则两层之间的参数变成20*20个。

前后对比:200200->2020,参数数量大大减少,而且网络越复杂,效果越明显,这就是在BP网络后提出CNN的原因。

你可能感兴趣的:(cnn,pytorch,神经网络)