查看GPU占用率的方法以及解决神经网络训练过程中GPU占用率低的问题

一、查看GPU占用率的方法

1. 使用终端命令nvidia-smi -l 3查看GPU使用情况。

其中命令末尾的3表示3秒刷新一次，时间可自行修改。

2. 使用任务管理器查看。

GPU下方的选项需选择cuda才可以查看具体的GPU占用率。

二、解决神经网络训练过程中GPU占用率低的问题

GPU占用率过低可以根据自己显存的大小来调节batchsize和num_workers参数

博主这里通过调大workers以及batchsize的大小很好地提高了GPU的占用率，但是CPU的占用率依然是拉满，这是因为在训练神经网络的过程中在CPU主要负责对数据进行预处理以及记录训练日志，GPU主要负责进行前向传播与反向传播，CPU没有执行完步骤GPU无法开始执行任务，因此CPU总是占用率拉满而GPU无法获得很好的利用，可以通过将记录训练日志的代码注释达到释放CPU占用率从而提升训练速度的效果。