27、卷积 - 卷积特征的可视化和一个神奇的网站

既然上一节说了卷积的本质是一个特征提取器，那么既然卷积神经网络在图像分类、图像检测、图像分割以及其他领域有这么好的表现，卷积算法到底提取了什么特征呢？

虽然有时候我们说神经网络是个黑盒，但是研究人员也一直在探索，如何将卷积学习到的特征给分析出来。

就是想要看一看，在 CNN网络中，那么多卷积，到底提取了哪些特征。

这就涉及到了卷积特征的可视化技术。

我们可以通过一定的方法，将神经网络每一层卷积的输出（也就是特征图）给劫持出来，在利用一些可视化的方法将其显示出来，便可以直观的看到卷积学到了什么特征了。

要做这一步需要一个重要的地方，那就是卷积的输出数据我们可以获得，幸运的是，本小册后面的实战部分，我们会自己手写卷积算法，卷积的输出（特征图）我们可以很轻松的获取到。在进行那一部分时，会实际操作一些卷积的输出特征图，来看看卷积到底学到了什么。

在进行手写卷积实战之前，我们可以先借助一些工具，来实现了解一下，卷积特征可视化之后的效果。

一个很著名的CNN可视化网站：CNN Explainer

在这个网站中，作者搭建了一个只有10层的神经网络，包含4层卷积，4个relu激活，2层最大池化。