PyTorch中的常见报错总结

 Pytorch中报错报错信息非常多，这里简单总结十六种常见的报错信息，方便大家Debug

---

1

报错：ValueError: num_samples should be a positive integer value, but got num_samples=0

可能的原因：传入的Dataset中的len(self.data_info)==0，即传入该dataloader的dataset里没有数据

解决方法：

检查dataset中的路径，路径不对，读取不到数据

检查Dataset的__len__()函数为何输出为零

---

2

报错：TypeError: pic should be PIL Image or ndarray. Got

可能的原因：当前操作需要PIL Image或ndarray数据类型，但传入了Tensor

解决方法：

检查transform中是否存在两次ToTensor()方法

检查transform中每一个操作的数据类型变化

---

3

报错：RuntimeError: invalid argument 0: Sizes of tensors must match except in dimension 0. Got 93 and 89 in dimension 1 at /Users/soumith/code/builder/wheel/pytorch-src/aten/src/TH/generic/THTensorMath.cpp:3616

可能的原因：dataloader的__getitem__函数中，返回的图片形状不一致，导致无法stack

解决方法：检查__getitem__函数中的操作

---

4

报错：conv: RuntimeError: Given groups=1, weight of size 6 1 5 5, expected input[16, 3, 32, 32] to have 1 channels, but got 3 channels instead linear: RuntimeError: size mismatch, m1: [16 x 576], m2: [400 x 120] at ../aten/src/TH/generic/THTensorMath.cpp:752

可能的原因：网络层输入数据与网络的参数不匹配

解决方法：

检查对应网络层前后定义是否有误

检查输入数据shape

---

5

报错：AttributeError: 'DataParallel' object has no attribute 'linear'

可能的原因：并行运算时，模型被dataparallel包装，所有module都增加一个属性 module. 因此需要通过net.module.linear调用

解决方法：网络层前加入module.

---

6

报错: RuntimeError: Attempting to deserialize object on a CUDA device but torch.cuda.is_available() is False. If you are running on a CPU-only machine, please use torch.load with map_location=torch.device('cpu') to map your storages to the CPU.

可能的原因：GPU训练的模型保存后，在无GPU设备上无法直接加载

解决方法：需要设置map_location="cpu"

---

7

报错：AttributeError: Can't get attribute 'FooNet2' on

可能的原因：保存的网络模型在当前python脚本中没有定义

解决方法：提前定义该类

---

8

报错：RuntimeError: Assertioncur_target >= 0 && cur_target < n_classes’ failed. at …/aten/src/THNN/generic/ClassNLLCriterion.c:94`

可能的原因：标签数大于等于类别数量，即不满足 cur_target < n_classes，通常是因为标签从1开始而不是从0开始

解决方法：修改label，从0开始，例如：10分类的标签取值应该是0-9

---

9

报错：RuntimeError: expected device cuda:0 and dtype Long but got device cpu and dtype Long Expected object of backend CPU but got backend CUDA for argument #2 'weight'

可能的原因：需计算的两个数据不在同一个设备上

解决方法：采用to函数将数据迁移到同一个设备上

---

10

报错：RuntimeError: DataLoader worker (pid 27) is killed by signal: Killed. Details are lost due to multiprocessing. Rerunning with num_workers=0 may give better error trace.

可能原因：内存不够（不是GPU显存，是内存）

解决方法：申请更大内存

---

11

报错：RuntimeError: reduce failed to synchronize: device-side assert triggered

可能的原因：采用BCE损失函数的时候，input必须是0-1之间，由于模型最后没有加sigmoid激活函数，导致的。

解决方法：让模型输出的值域在 [ 0 , 1 ] [0,1] [0,1]

---

12

报错：RuntimeError: unexpected EOF. The file might be corrupted.

可能的原因：torch.load加载模型过程报错，因为模型传输过程中有问题

解决方法：重新传一遍模型即可

---

13

报错：UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 1: invalid start byte

可能的原因：python2保存，python3加载，会报错

解决方法：把encoding改为encoding=‘iso-8859-1’，check_p = torch.load(path, map_location="cpu", encoding='iso-8859-1')

---

14

报错：RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same

问题原因：数据张量已经转换到GPU上，但模型参数还在cpu上，造成计算不匹配问题。

解决方法：通过添加model.cuda()将模型转移到GPU上以解决这个问题。或者通过添加model.to(cuda)解决问题

---

15

报错：RuntimeError: cuDNN error: CUDNN_STATUS_INTERNAL_ERROR

问题原因：jupyter notebook中调用了cuda，但没有释放

解决方法：把对应的ipynb文件shutdown就可以了

---

16

报错：RuntimeError: CUDA out of memory. Tried to allocate 46.00 MiB (GPU 0; 2.00 GiB total capacity; 54.79 MiB already allocated; 39.30 MiB free; 74.00 MiB reserved in total by PyTorch)

原因：可以看出在GPU充足的情况下无法使用,本机有两个GPU,其中一个GPU的内存不可用?

解决办法：在model文件(只有model中使用了cuda)添加下面两句:

import os
os.environ['CUDA_VISIBLE_DEVICES']='2, 3'