pytorch性能分析工具Profiler

1. Torch Profiler工具介绍

https://zhuanlan.zhihu.com/p/360479566

PyTorch Profiler 是一个开源工具，可以对大规模深度学习模型进行准确高效的性能分析。包括如下等功能:

• 分析model的GPU、CPU的使用率
• 各种算子op的时间消耗
• trace网络在pipeline的CPU和GPU的使用情况

Profiler利用Tensorboard可视化模型的性能，帮助发现模型的瓶颈，比如CPU占用达到80%，说明影响网络的性能主要是CPU，而不是GPU在模型的推理，各种kernel的运算的消耗。此时通过模型的轻量化、以及剪枝等方式对模型的运行速度并没有帮助，降低CPU的消耗，代码的优化才是关键，从而避免在做一些无用功，帮助我们对项目性能的优化。

图1 性能的汇总

图2 op的时间占用情况

2. Profiler工具使用