技巧-PyCharm中Debug和Run对训练的影响和实验测试

本专栏为深度学习的一些技巧,方法和实验测试,偏向于实际应用,后续不断更新,感兴趣童鞋可关,方便后续推送

简介

在训练深度学习模型时，使用PyCharm的Debug模式和Run模式对训练模型的耗时会有一些区别。
Debug模式：Debug模式在训练模型时，会对每一行代码进行监视，这使得CPU的利用率相对较高。由于需要逐步执行、断点调试、查看变量值等操作，Debug模式会使得训练过程更加耗时。然而，这种模式对于调试模型和查找错误非常有帮助。
Run模式：Run模式在训练模型时，专注于执行训练过程，这使得GPU的利用率相对较高。由于不需要在运行时进行交互操作，Run模式的执行速度通常会比Debug模式快一些。然而，这种模式下无法进行逐步执行和断点调试等操作。
因此，Debug模式和Run模式对训练时间的影响主要体现在CPU和GPU的利用率上。具体哪种模式更有效，取决于你的需求：如果你需要调试模型和查找错误，Debug模式会更有帮助；如果你只需要快速训练模型并关注最终结果，Run模式会更加高效。

实测效果

我采用MMDetetion训练,它可以通过钩子函数统计每一iter的数据读取耗时(data_time)和总耗时(time)
其中data_time为数据读取,主要消耗cpu资源
time-data_time为模型训练,主要消耗gpu资源
当使用PyCharm的Debug模式时打印结果如下:
当使用PyCharm的Run模式时打印结果如下:

实验结果表面,debug确实会增加cpu耗时,对gpu影响不大(time-data_time差不多)