Pytorch运行模型时报错总结

  1. Default process group is not initialized

在使用分布式的文件里  import torch.distributed as dist 后加上下面的语句,或者在报错的地方前面加上这句。


dist.init_process_group('gloo', init_method='file:///tmp/somefile', rank=0, world_size=1)

你可能感兴趣的:(pytorch)