PyTorch中的常见报错总结
Pytorch中报错报错信息非常多，这里简单总结十六种常见的报错信息，方便大家Debug
1
报错：ValueError: num_samples should be a positive integer value, but got num_samples=0
可能的原因：传入的Dataset中的len(self.data_info)==0，即传入该dataloader的dataset里没有数据
解决方法：
检查dataset中的路径，路径不对，读取不到数据
检查Dataset的__len__()函数为何输出为零
2
报错：TypeError: pic should be PIL Image or ndarray. Got
可能的原因：当前操作需要PIL Image或ndarray数据类型，但传入了Tensor
解决方法：
检查transform中是否存在两次ToTensor()方法
检查transform中每一个操作的数据类型变化
3
报错：RuntimeError: invalid argument 0: Sizes of tensors must match except in dimension 0. Got 93 and 89 in dimension 1 at /Users/soumith/code/builder/wheel/pytorch-src/aten/src/TH/generic/THTensorMath.cpp:3616
可能的原因：dataloader的__getitem__函数中，返回的图片形状不一致，导致无法stack
解决方法：检查__getitem__函数中的操作
4
报错：conv: RuntimeError: Given groups=1, weight of size 6 1 5 5, expected input[16, 3, 32, 32] to have 1 channels, but got 3 channels instead linear: RuntimeError: size mismatch, m1: [16 x 576], m2: [400 x 120] at ../aten/src/TH/generic/THTensorMath.cpp:752
可能的原因：网络层输入数据与网络的参数不匹配
解决方法：
检查对应网络层前后定义是否有误
检查输入数据shape
5
报错：AttributeError: 'DataParallel' object has no attribute 'linear'
可能的原因：并行运算时，模型被dataparallel包装，所有module都增加一个属性 module. 因此需要通过net.module.linear调用
解决方法：网络层前加入module.
6
报错: RuntimeError: Attempting to deserialize object on a CUDA device but torch.cuda.is_available() is False. If you are running on a CPU-only machine, please use torch.load with map_location=torch.device('cpu') to map your storages to the CPU.
可能的原因：GPU训练的模型保存后，在无GPU设备上无法直接加载
解决方法：需要设置map_location="cpu"
7
报错：AttributeError: Can't get attribute 'FooNet2' on
可能的原因：保存的网络模型在当前python脚本中没有定义
解决方法：提前定义该类
8
报错：RuntimeError: Assertioncur_target >= 0 && cur_target < n_classes’ failed. at …/aten/src/THNN/generic/ClassNLLCriterion.c:94`
可能的原因：标签数大于等于类别数量，即不满足 cur_target < n_classes，通常是因为标签从1开始而不是从0开始
解决方法：修改label，从0开始，例如：10分类的标签取值应该是0-9
9
报错：RuntimeError: expected device cuda:0 and dtype Long but got device cpu and dtype Long Expected object of backend CPU but got backend CUDA for argument #2 'weight'
可能的原因：需计算的两个数据不在同一个设备上
解决方法：采用to函数将数据迁移到同一个设备上
10
报错：RuntimeError: DataLoader worker (pid 27) is killed by signal: Killed. Details are lost due to multiprocessing. Rerunning with num_workers=0 may give better error trace.
可能原因：内存不够（不是GPU显存，是内存）
解决方法：申请更大内存
11
报错：RuntimeError: reduce failed to synchronize: device-side assert triggered
可能的原因：采用BCE损失函数的时候，input必须是0-1之间，由于模型最后没有加sigmoid激活函数，导致的。
解决方法：让模型输出的值域在 [ 0 , 1 ] [0,1] [0,1]
12
报错：RuntimeError: unexpected EOF. The file might be corrupted.
可能的原因：torch.load加载模型过程报错，因为模型传输过程中有问题
解决方法：重新传一遍模型即可
13
报错：UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 1: invalid start byte
可能的原因：python2保存，python3加载，会报错
解决方法：把encoding改为encoding=‘iso-8859-1’，check_p = torch.load(path, map_location="cpu", encoding='iso-8859-1')
14
报错：RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same
问题原因：数据张量已经转换到GPU上，但模型参数还在cpu上，造成计算不匹配问题。
解决方法：通过添加model.cuda()将模型转移到GPU上以解决这个问题。或者通过添加model.to(cuda)解决问题
15
报错：RuntimeError: cuDNN error: CUDNN_STATUS_INTERNAL_ERROR
问题原因：jupyter notebook中调用了cuda，但没有释放
解决方法：把对应的ipynb文件shutdown就可以了
16
报错：RuntimeError: CUDA out of memory. Tried to allocate 46.00 MiB (GPU 0; 2.00 GiB total capacity; 54.79 MiB already allocated; 39.30 MiB free; 74.00 MiB reserved in total by PyTorch)
原因：可以看出在GPU充足的情况下无法使用,本机有两个GPU,其中一个GPU的内存不可用?
解决办法：在model文件(只有model中使用了cuda)添加下面两句:
import os
os.environ['CUDA_VISIBLE_DEVICES']='2, 3'