解决训练时显存不断增大问题

问题描述:在训练时显存不断增大,最终显存爆炸

在上一篇提到,为了解决这个问题我无意间解决了另一个问题,但发现那个问题并不是根本原因,于是我又查阅了一些资料,经过一番尝试后找到了真正原因。
首先网上有一些解决方法,例如:

解决训练时显存不断增大问题_第1张图片
但是经过尝试,无论添加与否,显存还是在不断增加
最终原因是由于我在训练时将一个中间结果不断地存进了一个列表里,并始终没有清空,最终导致了显存爆炸的问题
在这里插入图片描述

最终注释掉这一行成功解决问题,在循环中尽量少用append方法,如果要保存中间结果,利用np.save等方法储存较好。

你可能感兴趣的:(pytorch,pytorch)