查看GPU使用情况和设置CUDA_VISIBLE_DEVICES

一、简介

服务器中有多个GPU，选择特定的GPU运行程序可在程序运行命令前使用：CUDA_VISIBLE_DEVICES=0命令。0为服务器中的GPU编号，可以为0, 1, 2, 3等，表明对程序可见的GPU编号。

二、查看GPU状态和信息

nvidia-smi

定时刷新状态，-n（秒），每秒刷新一次

watch -n 1 nvidia-smi

三、使用

需要注意前提是你有GPU

3.1临时设置（临时设置方法一定要在第一次使用 cuda 之前进行设置）

Linux： export CUDA_VISIBLE_DEVICES=1
windows:  set CUDA_VISIBLE_DEVICES=1

3.2python 运行时设置

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"

或

CUDA_VISIBLE_DEVICES=1 python **.py

注意：临时设置方法一定要在第一次使用 cuda 之前进行设置

3.3永久设置

• linux:
  在~/.bashrc 的最后加上export CUDA_VISIBLE_DEVICES=1，然后source ~/.bashrc
• windows:
  打开我的电脑环境变量设置的地方，直接添加就行了。

四、参考资料

pytorch指定多块GPU运行代码
设置 CUDA_VISIBLE_DEVICES