查看GPU使用情况和设置CUDA_VISIBLE_DEVICES

文章目录

  • 一、简介
  • 二、查看GPU状态和信息
  • 三、使用
    • 3.1临时设置(临时设置方法一定要在第一次使用 cuda 之前进行设置)
    • 3.2python 运行时设置
    • 3.3永久设置
  • 四、参考资料

一、简介

服务器中有多个GPU,选择特定的GPU运行程序可在程序运行命令前使用:CUDA_VISIBLE_DEVICES=0命令。0为服务器中的GPU编号,可以为0, 1, 2, 3等,表明对程序可见的GPU编号。
查看GPU使用情况和设置CUDA_VISIBLE_DEVICES_第1张图片

二、查看GPU状态和信息

nvidia-smi

查看GPU使用情况和设置CUDA_VISIBLE_DEVICES_第2张图片
定时刷新状态,-n(秒),每秒刷新一次

watch -n 1 nvidia-smi

三、使用

需要注意前提是你有GPU

3.1临时设置(临时设置方法一定要在第一次使用 cuda 之前进行设置)

Linux: export CUDA_VISIBLE_DEVICES=1
windows:  set CUDA_VISIBLE_DEVICES=1

3.2python 运行时设置

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"

CUDA_VISIBLE_DEVICES=1 python **.py

注意:临时设置方法一定要在第一次使用 cuda 之前进行设置

3.3永久设置

  • linux:
    在~/.bashrc 的最后加上export CUDA_VISIBLE_DEVICES=1,然后source ~/.bashrc
  • windows:
    打开我的电脑环境变量设置的地方,直接添加就行了。

四、参考资料

pytorch指定多块GPU运行代码
设置 CUDA_VISIBLE_DEVICES

你可能感兴趣的:(#,Tricks,python,linux,gpu)