PyTorch
Author:louwill
Machine Learning Lab
在进行深度学习实验时,能够可视化地对训练过程和结果进行展示是非常有必要的。除了Torch版本的TensorBoard工具TensorBoardX之外,Torch官方也提供了一款非常好用的可视化神器——visdom。visdom是一款用于创建、组织和共享实时大量训练数据可视化的灵活工具。
深度学习模型训练通常放在远程的服务器上,服务器上训练的一个问题就在于不能方便地对训练进行可视化,相较于TensorFlow的可视化工具TensorBoard,visdom则是对应于PyTorch的可视化工具。
安装与启动
直接通过pip install visdom即可完成安装,之后在终端输入如下命令即可启动visdom服务:
python -m visdom.server
启动服务后输入本地或者远程地址,端口号8097,即可打开visdom主页。
主要元素
visdom界面简单,主要构成元素包括窗口(Windows)、环境(Environments)、状态(State)、过滤(Filter)、视图(Views)等。
环境:用于对可视化空间进行分区,比如在对训练进行可视化的时候我们可以在一个环境里对loss进行可视化,在另一个环境下对训练的输入输出进行可视化。
状态:visdom会自动缓存你创建的可视化内容,当页面关闭之后,重新加载便可恢复这些内容。
过滤:可用于筛选可视化窗口,快速查找。
视图:可以快速地对可视化窗口进行排列和管理。
应用示例
visdom将可以进行可视化的对象都放在基础模块中,包括单/多张图像、文本、语音、视频、svg矢量图、属性网格、matplotlib绘图对象、序列化状态对象等。基础图形由plotly提供,主要包括散点图、折线图、热图、茎叶图、柱形图、箱线图、表面图、等高线图、网格图等。
以matplotlib绘图对象为例进行展示。
import matplotlib.pyplot as plt
from visdom import Visdom
vis = Visdom()
plt.plot(range(100))
vis.matplot(plt)
visdom中显示如下:
具体到深度学习训练时,我们可以在torch训练代码下插入visdom的可视化模块:
if args.steps_plot > 0 and step % args.steps_plot == 0:
image = inputs[0].cpu().data
vis.image(image,f'input (epoch: {epoch}, step: {step})')
vis.image(outputs[0].cpu().max(0)[1].data, f'output (epoch: {epoch}, step: {step})')
vis.image(targets[0].cpu().data, f'target (epoch: {epoch}, step: {step})')
vis.image(loss, f'loss (epoch: {epoch}, step: {step})')
将上述模块插入到VOC 2012语义分割训练中,效果如下:
也可以监控训练过程中的loss变化:
visdom为PyTorch而生,总体来说是一款优化的深度学习训练可视化工具。
参考资料:
https://github.com/facebookresearch/visdom
往期精彩:
PyTorch数据Pipeline标准化代码模板
深度学习100问-13:深度学习如何制作个人数据集?
深度学习100问-12:深度学习有哪些经典数据集?
深度学习100问-11:什么是学习率衰减?
深度学习100问-10:如何部署一个轻量级的深度学习项目?
深度学习100问-9:为什么EfficientNet号称是最好的分类网络?
深度学习100问-8:什么是Batch Normalization?
深度学习100问-7:dropout有哪些细节问题?
深度学习100问-6:有哪些经典的卷积类型?
深度学习100问-5:如何阅读一份深度学习项目代码?
深度学习100问-4:深度学习应遵循怎样的论文研读路线?
深度学习100问-3:深度学习应掌握哪些Linux开发技术?
深度学习100问-2:深度学习应掌握哪些Git开发技术?
深度学习100问-1:深度学习环境配置有哪些坑?
一个算法工程师的成长之路
长按二维码.关注机器学习实验室