CNN 卷积的 权值共享 和 局部连接 特点

CNN中卷积的特点: 权值共享、局部连接

权值共享:  卷积操作会产生多个channel, 而每个channel中的每个元素值都是由相同的卷积核产生的, 一个卷积核kernel可以看成是一个模式搜索器,它对特定的模式感兴趣,换言之,只有特定的模式才能使其激活,激活则代表输出值较大。由于对于图像来说特定的模式可以出现在图像的任何位置,因此卷积核也需要对整张图片进行完整的搜索(卷积核滑动),以搜索出所有其感兴趣的区域

由下图所示: 鸟嘴可能出现在图中左上角也可能出现在图的中间位置

CNN 卷积的 权值共享 和 局部连接 特点_第1张图片

局部连接: 在此之前连接多是全连接层(Fully Connection),其在图像问题上不合适因为全连接层会引入指数级别的参数,限制了CNN的网络设计。CNN中因此采用的是局部连接的方式,所谓局部连接的方式就是说: 后一层的神经元的输入只涉及前一层的某些神经元,而非将前一层的所有神经元都作为该神经元的输入。

如下图所示: 后一层神经元的output是3,而它的input是原图中的1、2、3、7、8、9、13、14、15 (这个编号的得到是将原矩阵flatten()得到的),没有将前一层的所有结点的输出都作为该神经元的输入,而是采用局部连接的方式。

CNN 卷积的 权值共享 和 局部连接 特点_第2张图片

你可能感兴趣的:(实验室,cnn,深度学习,神经网络)