【Pytorch】win10深度学习环境配置CUDA及Pytorch、TensorRT安装

1.前往pytorch官网，查看pytorch对应的cuda版本号及其对应驱动：

官网地址

这里选择对应的11.3的CUDA。
同时取得对应的pytorch的pip安装命令：
pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113

2.安装英伟达的驱动（假设未安装），英伟达的驱动与CUDA计算平台与如下对应关系：

各版本只有>=号，所以英伟达的高版本驱动，支持更高版本的cuda，向下兼容低版本的cuda，也就是英伟达的驱动可以直接安装最高版本的。不过这步可以省略，因为在安装cuda时，也会自动安装对应版本的驱动。

3.安装CUDA：

下载地址：英伟达CUDA

下载后安装：

安装时勾选自定义，去掉图示中的一项。为了配置系统路径方便，安装路径不要更改。
安装完后在设备管理器处更新一下驱动（如果英伟达显卡处带有黄色感叹号），提示电脑重启，安装英伟达驱动完成。

桌面nvida控制面板查看安装后的结果。

3.配置系统路径，此时cmd使用nvidia-smi命令找不到：

此时添加系统路径，参考路径是：

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\lib\x64
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\extras\CUPTI\lib64
C:\ProgramData\NVIDIA Corporation\CUDA Samples\v11.3\bin\win64
C:\ProgramData\NVIDIA Corporation\CUDA Samples\v11.3\common\lib\x64
C:\Program Files\NVIDIA Corporation\NVSMI

首先右键我的电脑-属性-高级系统设置-环境变量

重启电脑让配置生效。

4.安装GPU版pytorch，使用第一步得到的命令：这里使用的是anaconda进行安装，加清华源

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113 -i https://pypi.tuna.tsinghua.edu.cn/simple/

安装完成后在pycharm中测试是否可用：

import torch
print(torch.__version__)
print(torch.cuda.is_available())#cuda是否可用
torch.cuda.device_count()#返回GPU的数量
torch.cuda.get_device_name(0)#返回gpu名字，设备索引默认从0开始

5.安装cuDNN，这是神经网络加速库，但不是必要的。如果后续使用TensorRt进行部署则需要安装。

cuDNN下载
这里下载8.2.1搭配11.x。
下载下来之后进行解压，然后将解压出来的，将对应文件夹复制进cuda的对应文件夹:
（1）\cuda\bin\文件夹下的cudnn64_7.dll复制到CUDA安装目录\NVIDIA GPU Computing Toolkit\CUDA\v11.3\bin\文件夹中
（2）\cuda\include\文件夹下的cudnn.h复制到CUDA安装目录\NVIDIA GPU Computing Toolkit\CUDA\v11.3\include\文件夹中
（3）\cuda\lib\x64\文件夹下的cudnn.lib复制到CUDA安装目录\NVIDIA GPU Computing Toolkit\CUDA\v11.3\lib\x64\文件夹中
即安装完成。

6.对应安装cuda-python，为安装python版cuda做准备：

pip3 install cuda-python==11.5

7.安装TensorRT

下载地址
选择合适的下载地址下载zip安装包。
这里下载的是：
TensorRT 8.4 GA Update 2 for Windows 10 and CUDA 11.0, 11.1, 11.2, 11.3, 11.4, 11.5, 11.6 and 11.7 ZIP Package
将lib下去全部文件复制到：该路径已加入环境变量
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\lib\x64
并将其下的所有dll复制进：
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\bin

在安装包内找到python文件夹，这里使用tensorrt-8.4.3.1-cp39-none-win_amd64.whl进行安装：

经验证成功安装：