win10+CUDA11.1+cudnn11.1+TensorRT8.0开发环境搭建

一、安装包文件准备

设备及软件版本

设备名称	DESKTOP-71FDQV3
处理器	12th Gen Intel(R) Core(TM) i5-12600K   3.70 GHz
机带 RAM	16.0 GB (15.8 GB 可用)
设备 ID	0FEB664E-6D33-405C-97E8-1D5D1571887B
产品 ID	00326-60000-00000-AA145
系统类型	64 位操作系统, 基于 x64 的处理器
笔和触控	没有可用于此显示器的笔或触控输入

GPU驱动：
NVIDIA GeForce RTX 3060

驱动程序版本:	27.21.14.6677
驱动程序日期:	2021/6/8
DirectX 版本:	12 (FL 12.1)
物理位置：	PCI 总线 1、设备 0、功能 0

利用率	0%
专用 GPU 内存	0.0/12.0 GB
共享 GPU 内存	0.0/7.9 GB
GPU 内存	0.0/19.9 GB

准备开发环境时，需要确定安装TensorRT版本，再反过来确定cudnn版本，CUDA版本，这样就不会有问题了，免得下载版本不对又得重新下载。

下载地址：
TensorRT：https://developer.nvidia.cn/nvidia-tensorrt-download
cudnn：https://developer.nvidia.cn/rdp/cudnn-archive
CUDA：https://developer.nvidia.cn/cuda-toolkit-archive

或者下载
百度网盘：https://pan.baidu.com/s/17K-snlqT2yD9ZIQ-GXEJOg 提取码：7ad1

• cuda_11.1.1_456.81_win10.exe
• cudnn-11.2-windows-x64-v8.1.1.33.zip
• TensorRT-8.0.3.4.Windows10.x86_64.cuda-11.3.cudnn8.2.zip

二、安装

1. 首先安装CUDA，默认安装路径，直接下一步即可
2. 解压缩cudnn-11.2-windows-x64-v8.1.1.33.zip选中全部（include、lib、bin）复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1目录下即可（自动合并include、lib、bin对应文件夹文件）
3. 解压缩TensorRT-8.0.3.4.Windows10.x86_64.cuda-11.3.cudnn8.2.zip分别将include、lib、bin三个目录中的内容复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1对应的include、lib/x64、bin目录下即可

三、测试

1. 用VS2019 打开 TensorRT-8.0.3.4\samples\sampleMNIST\sample_mnist.sln
2. 右键工程 ->重新生成
3. 进入TensorRT-8.0.3.4\bin，用cmd执行sample_mnist.exe --datadir=path/to/data/mnist/
4. 如果显示下图执行成功则说明tensorRT 配置成功
   
   错误解决：找不到如下动态库，
   C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\lib\x64下如下文件复制到
   C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin目录下。

   nvinfer.dll
   nvinfer_plugin.dll
   nvonnxparser.dll
   nvparsers.dll