配置GPU环境【Win10基于anaconda虚拟环境】

下载CUDA（GPU）

• 确定自己电脑是否配置有NVIDA的显卡，非NVIDA显卡不能使用CUDA

  可以在桌面点击鼠标右键，查看是否有“NVIDA 控制面板”的选项来判断。

• 点击“NVIDA 控制面板”

  点击左下角的“系统信息”。
  
  点击“组件”查看版本信息。
  
  这个版本表示的是所能接受的最高版本，因此如果下载的版本需要不高于这个版本。

• 下载CUDA Toolkit

  CUDA Toolkit 官网链接

  CUDA Toolkit 10.1 update2 Archive的链接

  1. 网上大部分人都选择了10.1，所以我选择了10.1；
  2. 官网上很多都点不开，从一个大佬的博客上找到了10.1的直接链接。

  

• 点击下载好的可执行程序进行安装

  “安装选项”选择的“精简（推荐）”，直接下一步到“重启”。

  说明一下：
  重启之后我观察“系统环境变量”并没有默认地配置上最基础的环境变量，但是大佬博客中却显示配置上了，所以我又双击了一遍，又进行了一遍安装。这次安装好像没有再要求进行选择和重启，直接就安装后结束了，而且这之后，基础的两个环境变量也自动配置上了。
  这两个基础的环境变量是：CUDA_PATH和CUDA_PATH_V10_1。

• 配置环境变量

  右键此电脑->属性->高级系统设置->高级->环境变量。

  配置好如下的变量，大致位置也差不多，无非就是在“文件文件夹”中还是在“数据文件夹”中。

  
  添加至原有的PATH变量中。

  "%%"的含义为用变量名定义好的路径去替换“%%”及二者之间的变量名。

双击PATH进入“编辑环境变量”：

• 测试CUDA是否安装成功

  使用WIN+R组合键调出CMD命令行，输入nvcc -V。

  能正常显示如下界面就说明安装成功。
  

• 配置cuDNN

  GPU，CUDA，cuDNN的理解
  我的理解：CUDA是使用GPU的关键，而cuDNN是一个用于深层神经网络的GPU加速库。

  cuDNN Archive官网链接

  需要注册和登录，正常注册登录即可。

  从中根据"for CUDA xx.x“选择对应版本的cuDNN，我选择的是Download cuDNN v8.0.5 (November 9th, 2020), for CUDA 10.1，再从中选择cuDNN Library for Windows10 (x86)，点击即下载。（如果懒得找，可以直接打开该链接）

  解压后得到如下图：D:\cuDNN\cuda

  

  D:\CUDA\cuda\bin 中的 cudnn64_7.dll	复制粘贴到	C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin
  D:\CUDA\cuda\include 中的cudnn.h	复制粘贴到	C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include
  D:\CUDA\cuda\lib\x64 中的cudnn.lib	复制粘贴到	C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\lib\x64

  我觉得由于上面已经将路径添加至环境变量了，所以这里就不用再添加了，反正只是将这些文件复制到路径下。

• 重新创建一个空的虚拟环境

  我们通过可视化的界面来创建一个新的空虚拟环境。

  之所以创建一个新的，是因为开始我用原先一直用来跑代码的环境一直没弄出来显示True，而且那个环境已经很乱了，所以就又开了一个，起名为DL_gpu。
  创建可以通过可视化界面的方式创建，但是不推荐使用可视化界面的方式下载库，因为不好控制版本。

  简单的创建过程，点击”create“，起名字，选择python3.6，点击”create“创建，等待创建完成。
  

• 选择合适的Pytorch版本并下载

  Pytorch官网链接

  
  点击”Previous versions of PyTorch“查看之前的版本，选择对应的版本下载。

  我选择的是conda install pytorch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 cudatoolkit=10.1 -c pytorch（命令）

  进入CMD模式，输入activate + 虚拟环境名进入新的虚拟环境，我就输入activate DL_gpu。再输入上面的命令安装。

• 简单测试GPU是否可用

  先在虚拟环境中输入ipython进入ipython模式，再在ipython模式下输入如下命令：

  import torch
  torch.cuda.is_available()
  

  如果输出为True，则成功，否则失败。

  我则是属于import torch都报错的。只要安装一下ipythonconda install ipython就可以正常的import并显示True了。

• 简单测试在Pycharm中是否可用

  也是基础操作。

  点击右下角的这个。

  

  再点击”Add Interpreter“。
  

  找到刚刚创建的虚拟环境的位置。一般都在/Users/username/anaconda3/envs下。点击省略号找到虚拟环境中的python.exe，下面的”Conda executable“会自动补充上。点击”OK“。等待加载。
  
  在代码框中输入

  import torch
  print(torch.cuda.is_available())
  

  执行后输出True成功。

• 测试是否真正使用了GPU

  import torch
  
  x = torch.rand(5000, 3000)
  y = torch.rand(5000, 3000)
  if torch.cuda.is_available():
      for i in range(10000):
          # x = x.cuda()
          # y = y.cuda()
          z = x + y
  print(z)
  

  加上注释的两行实现使用GPU，否则使用CPU。

  GPU：
  
  
  很显然整个过程CPU利用率很低，而GPU1的内存占用从0变为了0.7，执行速度很快，明显快于使用CPU。

  CPU：
  
  
  使用CPU时，CPU利用率明显增高，且执行时长也明显多余GPU。

注意：上面图片的 GPU0 0 是 Intel 的不是 Nvidia 的，所以要对比使用GPU前后 GPU 1 也就是Nvidia的GPU的利用率变化。

补充：问老师为什么利用率如此低，是不是本质上并没有使用GPU？老师说看GPU温度即可，只要温度在75℃左右就说明利用率很高了，80℃以上就需要降温了。