pytorch_lightning 多块GPU训练速度很慢

不要使用CUDA_VISIBLE_DEVICES来选择要是用的GPU,要直接在Trainer里面的gpus来选择要用的GPU。

Change from:

CUDA_VISIBLE_DEVICES=0,1

To:

    trainer = Trainer(...
                        gpus='0, 1',
                        ...)

你可能感兴趣的:(pytorch_lightning 多块GPU训练速度很慢)