device-side assert triggered at /pytorch/aten/src/THC/THCReduceAll.cuh:327

关于device-side assert triggered at /pytorch/aten/src/THC/THCReduceAll.cuh:327

主要是因为交叉熵损失函数的labels出现了越界,labels的值只能为[0,n_class-1]。
之前更改了Maskrcnn的数据集后类的个数应该为50个,但是数据处理的时候直接设置到了50所以一直报错!将label的tensor - 1就完美解决了!
如下代码中注意predicate_labels中的取值即可!

self.criterion = nn.CrossEntropyLoss()
prm_loss = self.criterion(output, predicate_labels)

你可能感兴趣的:(pytorch,深度学习,机器学习,计算机视觉)