关于pytorch复现模型的一些报错总结

1.RuntimeError: One of the differentiated Tensors does not require grad

关于这个报错的意思是:有一个参数不需要计算导数
torch.autograd.grad函数参数如下:outputs,inputs,函数功能是求outputs关于inputs的导数,此处的inputs需要加requires_grad_()定义:

v = Variable(v).to(device).requires_grad_()

2. RuntimeError: grad can be implicitly created only for scalar outputs:

loss.backward()中报错:显然是因为此处的loss不是标量而是张量,经过反复检查发现model采用nn.DataParallel导致loss是一个张量长度为cuda数量。因此删除如下代码:

model = nn.DataParallel(model).to(device)

你可能感兴趣的:(pytorch,视觉问答项目实战,python,pytorch)