神经网络中的可视化

1. Zetane Viewer（上传ML模型，一键可视化）

神经网络在工作的时候，里面到底是什么样？

为了能透视这个“AI黑箱”中的过程，加拿大蒙特利尔一家公司开发一个3D可视化工具Zetane Engine。只需要上传一个模型，Zetane Engine就可以巡视整个神经网络，并且还可以放大网络中的任何一层，显示特征图，看清流水线上的每一步
在这里插入图片描述

参考：

微信文章：https://mp.weixin.qq.com/s/PMdG5hknfz7k9OB6Gad-4A
GitHub源码下载：https://github.com/zetane/viewer
bilibil官方视频讲解：https://www.bilibili.com/video/BV1UR4y1M7xo
bilibili博主介绍：https://www.bilibili.com/video/BV1BP411H71a（配套up主的一些答疑）
bilibili笔记：https://www.bilibili.com/read/cv15291682

2. Grad-CAM：梯度类激活图(Gradient-weighted Class Activation Mapping)

它是CAM(Class Activation Mapping)的升级版，通过Grad-CAM我们能够绘制出如下的热力图（对应给定类别，网络到底关注哪些区域）。

pytorch-grad-cam提供了对模型训练可视化的工具，支持CNN、Vision Transformers，图像分类、目标检测、分割、图片相似性等。可作为一个python可视化工具包，安装如下：

pip install grad-cam

参考：

论文地址：https://arxiv.org/abs/1610.02391
GitHub代码（pytorch）：https://github.com/jacobgil/pytorch-grad-cam
bilibili讲解视频：https://b23.tv/1kccjmb

3. Wandb：深度神经网络可视化工具包

可以用来可视化模型训练中的log文件数据，有点类似于tensorboard

博文（介绍了包的部署，登录以及使用方法）：https://blog.csdn.net/qq_41664845/article/details/125203439

4. Netron（跟Zetane 类似，但是不支持可视化特征图）

netron提供了两种运行方式：

第一种是以软件的方式安装netron，然后打开软件载入模型，下载地址见github主页https://github.com/lutzroeder/netron。

第二种是将netron作为python库进行安装，在python代码调用netron库来载入模型进行可视化。 可以通过 pip install netron进行安装。

第三种，如果你既不想安装netron软件，也不想安装netron库，netron作者很贴心地做了一个在线demo网站，可以直接上传模型文件查看可视化结果。网站链接https://netron.app。网站页面如下：

参考：

博文：https://blog.csdn.net/weixin_38346042/article/details/119643579
知乎：https://zhuanlan.zhihu.com/p/431445882

5. deepvis（深度学习可视化盒子）

作者网站：https://yosinski.com/deepvis
论文地址：https://yosinski.com/media/papers/Yosinski__2015__ICML_DL__Understanding_Neural_Networks_Through_Deep_Visualization__.pdf
GitHub代码：https://github.com/yosinski/deep-visualization-toolbox
youtube演示视频：https://yosinski.com/deepvis#toolbox