深度学习-pytorch-CUDA out of memory.错误解决方案

最近训练模型的时候真是气死我了,花式 out of memory,明明模型不是很大,明明一个batch只读入一条音频(PS我是做语音的)。这里记录一下每一次的解决方案。

  1. 第一次溢出是因为在验证过程中,没有加不做梯度更新的设置。只要在验证之前加一个 torch.no_grad()就好了,毕竟验证不需要梯度更新。具体用法自己百度,你已经是个成熟的程序猿了,需要自己学会百度了。
  2. 第二次还是在验证的过程中,tensor计算的时候溢出了,调试的时候发现是因为tensor计算的时候维度不匹配,并没有报计算错误,而是报了CUDA out of memory。这种情况注意一下tensor之间计算时的维度要一致就可以了。

你可能感兴趣的:(DeepLearning,深度学习,pytorch)