(二) CNN Explainer一款形象具体的CNN解释工具

论文题目：
CNN EXPLAINER：Learning Convolutional Neural Networks with Interactive Visualization
论文作者：Zijie J. Wang, Robert Turko, Omar Shaikh, Haekyu Park, Nilaksh Das, Fred Hohman, Minsuk Kahng, and Duen Horng (Polo) Chau
论文下载地址：https://arxiv.org/abs/2004.15004
工具使用地址：https://poloclub.github.io/cnn-explainer/
开源代码：https://poloclub.github.io/cnn-explainer
读后感：该论文提出了一种CNN解释工具，非常形象，我们还可以从这个工具中输入自己想要的图片，然后可视化神经网络的学习过程，能够加深我们对神经网络的理解。

摘要：
深度学习的巨大成功激发了许多实践者和学生学习这一令人兴奋的技术。然而，由于理解和应用深度学习的复杂性，对于初学者来说，迈出第一步往往是具有挑战性的。我们展示了CNN EXPLAINER，一个为非专业人士设计的交互式可视化工具，用于学习和检查卷积神经网络(CNN)，一个基础的深度学习模型架构。我们的工具解决了初学者在学习CNN时面临的关键挑战，这是我们从教师的采访和对过去的学生的调查中确定的。CNN EXPLAINER紧密地集成了一个模型概述，概述了CNN的结构，以及按需动态的视觉解释视图，帮助用户理解CNN的底层组件。通过跨越抽象级别的平滑转换，我们的工具使用户能够检查低级数学操作和高级模型结构之间的相互作用。一项定性用户研究表明，CNN EXPLAINER可以帮助用户更容易地理解CNN的内部工作原理，并且使用起来很有趣。我们也从我们的研究中获得设计经验。CNN EXPLAINER使用现代网络技术开发，无需安装或专门的硬件，即可在用户的网络浏览器中本地运行，拓宽了公众对现代深度学习技术的教育访问。
关键词：
深度学习，机器学习，卷积神经网络，视觉分析

引言：
深度学习现在使我们的许多日常技术成为可能。它的持续成功和在不同领域的潜在应用吸引了希望学习和应用这一技术的学生和从业者的极大兴趣。然而，许多初学者发现迈出学习和理解深度学习概念的第一步是具有挑战性的。例如，卷积神经网络(CNN)，一种基础的深度学习模型架构，通常是学生学习的第一个和最广泛使用的模型之一。CNN经常用于图像分类，达到最先进的性能[33]。然而，通过对深度学习教师的采访和对过去学生的调查，我们发现，即使是这种“入门”模型，对于初学者来说，理解输入(如图像数据)如何转化为课堂预测也是一项挑战。这种陡峭的学习曲线源于CNN的复杂性，它通常利用许多计算层来达成最终决策。在一个CNN中，有许多类型的网络层(例如，全连接，卷积，激活)，每一个都有不同的结构和底层的数学运算。因此，学生不仅需要建立一个关于每一层如何运作的心智模型，而且还需要建立一个关于如何选择协同工作以转换数据的不同层的心智模型。因此，学习CNN的一个关键挑战是网络中低级数学运算和此类运算的高级集成之间复杂的相互作用。

为CNN设计学习工具的主要挑战。有越来越多的研究使用交互式可视化来解释现代机器学习算法的复杂机制，如TensorFlow Playground[50]和GAN Lab[29]，它们分别帮助学生学习密集神经网络和生成对抗网络(GANs)。对于CNN，现有的一些可视化工具侧重于展示高层模型结构和层间联系(如Harley的Node-Link visualization[20])，而另一些则侧重于解释低层的数学运算(如Karpathy的交互式CNN demo[30])。没有一种视觉学习工具可以从两个抽象层次来解释和连接CNN的概念。全局模型结构和局部层操作之间的相互作用已被确定为学习深度学习模型的主要障碍之一，正如[50]中所讨论的，并从我们对教师和学生的采访和调查中得到证实。CNN EXPLAINER旨在弥合这一关键差距。

CNN EXPLAINER是一款交互式可视化工具，用于非专业人士学习CNN的高级模型结构和低级数学运算，解决学习者在将不熟悉的层机制与复杂的模型结构连接起来的关键挑战。我们的工具优于之前的工作[20,30]，克服了从文献综述、教师访谈和对过去学生的调查中发现的独特设计挑战(第4节)。

CNN EXPLAINER新颖的交互系统设计(图1)，采用概述+细节、动画等常用技术，同时总结复杂的模型结构，同时为用户查看详细的数学运算提供上下文。CNN EXPLAINER的可视化技术通过不同抽象层次之间的流畅转换协同工作(图2)，帮助用户更全面地理解CNN内部的复杂概念(第6节)。

从用户研究中提炼的设计课程，用于机器学习教育的交互式可视化工具。虽然在向非专家解释机器学习概念时，视觉和交互方法越来越受欢迎，但很少有人对这些工具进行评估[28,43]。我们采访了四个教练教CNN和19进行了一项调查学生以前学过CNN确定深度学习教育工具的需求和挑战(教派。4)。此外,我们与16名学生进行了观察研究,评估的可用性CNN讲解员,并调查了我们的工具如何可以帮助学生更好地理解CNN的概念(第8节)。基于这些研究，我们讨论了交互式可视化机器学习教育工具的优势和局限性。
这是一款基于网络的开源软件，可以让公众在不需要高级计算资源的情况下，更广泛地使用现代深度学习技术。按照惯例，部署深度学习模型需要大量的计算资源，例如具有强大硬件的服务器。此外，即使使用专用后端服务器，也很难支持大量并发用户。相反，CNN EXPLAINER是使用现代网络技术开发的，所有的结果都是直接和有效地计算在用户的网络浏览器(章节6.7)。因此，任何人都可以使用他们的浏览器访问CNN EXPLAINER，而不需要安装或专门的后端。

拓宽可视化对人工智能的影响。近年来，许多可视化系统已经被开发出来用于深度学习，但很少为非专家设计[20,29,44,50]，就像[23]中调查的那样。CNN EXPLAINER加入可视化研究，向初学者介绍现代机器学习概念。应用可视化技术来解释复杂模型的内部工作具有很大的潜力。我们希望我们的工作将激发视觉学习工具的进一步研究和开发，帮助理解和应用人工智能技术的民主化和降低障碍。

我的使用感受：

我觉得这款工具还是非常好用的，在学习神经网络的前期能帮助我们很好地理解CNN的整个运作流程和实现的细节，并且每一步的可视化过程都是动态显示的，可以让我们了解CNN底层使用的数学运算，并灵活运用到我们想要实现的学习任务的网络模型中。
如下图所示，点击每一块特征图，都能看到它的上一层输入和下一层输出的去向，并且整个过程的数学运算都是动态展示的，同时我们还可以上传自己想要的图片，可视化CNN的学习过程，得到我们想要的结果图。
感兴趣的朋友可以点击顶部的链接实际操作感受一下，在我刚学习神经网络的时候，这个工具给了我很多帮助，让我觉得CNN的学习过程也没有那么困难。