PyTorch深度学习训练可视化工具visdom

PyTorch


Author:louwill

Machine Learning Lab

     在进行深度学习实验时,能够可视化地对训练过程和结果进行展示是非常有必要的。除了Torch版本的TensorBoard工具TensorBoardX之外,Torch官方也提供了一款非常好用的可视化神器——visdom。visdom是一款用于创建、组织和共享实时大量训练数据可视化的灵活工具。

     深度学习模型训练通常放在远程的服务器上,服务器上训练的一个问题就在于不能方便地对训练进行可视化,相较于TensorFlow的可视化工具TensorBoard,visdom则是对应于PyTorch的可视化工具。

安装与启动

     直接通过pip install visdom即可完成安装,之后在终端输入如下命令即可启动visdom服务:

python -m visdom.server 

     启动服务后输入本地或者远程地址,端口号8097,即可打开visdom主页。

主要元素

     visdom界面简单,主要构成元素包括窗口(Windows)、环境(Environments)、状态(State)、过滤(Filter)、视图(Views)等。

     环境:用于对可视化空间进行分区,比如在对训练进行可视化的时候我们可以在一个环境里对loss进行可视化,在另一个环境下对训练的输入输出进行可视化。

     状态:visdom会自动缓存你创建的可视化内容,当页面关闭之后,重新加载便可恢复这些内容。

     过滤:可用于筛选可视化窗口,快速查找。

     视图:可以快速地对可视化窗口进行排列和管理。

应用示例

     visdom将可以进行可视化的对象都放在基础模块中,包括单/多张图像、文本、语音、视频、svg矢量图、属性网格、matplotlib绘图对象、序列化状态对象等。基础图形由plotly提供,主要包括散点图、折线图、热图、茎叶图、柱形图、箱线图、表面图、等高线图、网格图等。

     以matplotlib绘图对象为例进行展示。

import matplotlib.pyplot as plt
from visdom import Visdom
vis = Visdom()
plt.plot(range(100))
vis.matplot(plt)

     visdom中显示如下:

     具体到深度学习训练时,我们可以在torch训练代码下插入visdom的可视化模块:

if args.steps_plot > 0 and step % args.steps_plot == 0:
    image = inputs[0].cpu().data
    vis.image(image,f'input (epoch: {epoch}, step: {step})')
    vis.image(outputs[0].cpu().max(0)[1].data, f'output (epoch: {epoch}, step: {step})')
    vis.image(targets[0].cpu().data, f'target (epoch: {epoch}, step: {step})')
    vis.image(loss, f'loss (epoch: {epoch}, step: {step})')

     将上述模块插入到VOC 2012语义分割训练中,效果如下:

     也可以监控训练过程中的loss变化:

     visdom为PyTorch而生,总体来说是一款优化的深度学习训练可视化工具。

参考资料:

https://github.com/facebookresearch/visdom

往期精彩:

PyTorch数据Pipeline标准化代码模板

深度学习100问-13:深度学习如何制作个人数据集?

深度学习100问-12:深度学习有哪些经典数据集?

深度学习100问-11:什么是学习率衰减?

深度学习100问-10:如何部署一个轻量级的深度学习项目?

深度学习100问-9:为什么EfficientNet号称是最好的分类网络?

深度学习100问-8:什么是Batch Normalization?

深度学习100问-7:dropout有哪些细节问题?

深度学习100问-6:有哪些经典的卷积类型?

深度学习100问-5:如何阅读一份深度学习项目代码?

深度学习100问-4:深度学习应遵循怎样的论文研读路线?

深度学习100问-3:深度学习应掌握哪些Linux开发技术?

深度学习100问-2:深度学习应掌握哪些Git开发技术?

深度学习100问-1:深度学习环境配置有哪些坑?


一个算法工程师的成长之路

长按二维码.关注机器学习实验室


你可能感兴趣的:(PyTorch深度学习训练可视化工具visdom)