Pytorch制定使用GPU的几种方式

PyTorch默认使用从0开始的GPU，如果指定的GPU正在运行程序，需要指定其他GPU。目前实验发现指定的GPU不存在时不会报错，系统自动寻找可用的GPU。
指定方式
$1$. 直接在终端设置
CUDA_VISIBLE_DEVICES=0 python3 trainval_net.py
指定了使用0号GPU

$2$.在程序中指定
import os
os.environ[“CUDA_VISIBLE_DEVICES”] = “1”
指定了1号GPU

$3$.使用函数 set_device
import torch
torch.cuda.set_device(id)
不过官方建议使用CUDA_VISIBLE_DEVICES，不建议使用 set_device 函数。

tensorflow中使用指定的GPU及GPU显存可参考：
http://www.cnblogs.com/darkknightzh/p/6591923.html