十四、深度学习之卷积+池化+全连接各层

1、神经网络
    人脑中有大量的脑神经元。每个脑神经元（图中黑点）都可以看做是一个小的记忆体负责不同的记忆，神经元之间通过树突（图中细线）连接起来。
    假如人看到一只猫，一个神经元之前见过猫，那么就会把信息往后传，此时神经元处于激活状态；没有见过的啥也不做，处于静止状态。图片的信息就这样，一层一层的通过“见过猫且确信它是一只猫的”神经元往后传递，直到在最后输出一个结果。这个过程叫做大脑的推理。
    那神经元的这些记忆是怎么获取的呢？当然是训练！那么计算机又该怎么模拟这个记忆过程呢？如果认识就乘以1，否则就乘以0。实际的网络中，是一个复杂的数值，称之为权值。权值乘以输入的信息（猫），然后经过激活函数去激活（类似于人脑神经元的激活）。如果能成功激活，那么信息就往下传，否则信息就在此丢失。
    这个权值，就是 AI 的记忆。这个权值，就是 AI 在训练的过程中学到的东西：千百万次计算得出的最优解。而卷积这一算法，就天然存在一个记忆体，或者说权值，那就是卷积核，可以理解为人眼此时聚焦看到的区域。
    
    图像特征主要有图像的颜色特征、纹理特征、形状特征和空间关系特征。随着神经网络深度的不断加深，卷积提取到的特征逐渐清晰起来。由浅层次的纹理特征，逐步到深层次的形状特征！这些网络里都大量使用了卷积这一算法。因此这些网络我们也可以称之为卷积神经网络（Convolution Neural Network, CNN)。
    CNN基础结构如下图：