一、安装cuda、cudnn和tensorRT
需要下载的文件:
cuda11.4下载地址:
CUDA版本列表
cudnn下载地址:
CUDNN版本列表
tensorRT下载地址:
tensorrt版本列表
其中下载tensorrt后会发现其实文件名里已经有建议的cuda、cudnn建议版本,如:TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4.zip,其中的cuda-11.6指的是最高支持cuda-11.6
当然,下载tensorrt界面就已经有得选以及说明,GA是指稳定版:
CUDNN也是,有自己相对应的版本:
安装步骤:
1、先安装CUDA,无脑直接一直下一步即可。
安装完后到cmd那里查看一下是否安装成功:
cmd中输入nvcc -V
能够显示出版本号即可:
如果没成功,那就是环境变量没加:
2、将下载好的cudn和nTensorRT分别解压,并分别将两个解压后的文件夹内的:bin\, include, lib\ 目录复制到cuda安装路径下,cuda的默认安装路径为:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.4
----------------------------------------------- 小插曲 ----------------------------------------------------------------------------
如果想要python也能使用tensorRT,那么:
先安装Python:下载地址:python官方下载
下载后无脑一直下一步安装,记得勾选上选项:path to your environment
安装好后到cmd里验证Python安装情况:
然后更新pip:
pip install --upgrade pip --user
最后到解压的tensorRT目录:D:\installfile\TensorRT-8.4.1.5\python
使用pip进行安装:
pip install tensorrt-8.4.1.5-cp39-none-win_amd64.whl
-------------------------------------------------- end ----------------------------------------------------------------------------
二、使用tensorRT自带的测试程序测试是否安装成功(需要提前安装vs2017)
1、进入tensorRT解压的文件夹:D:\installfile\TensorRT-8.4.1.5\samples\sampleMNIST打开该项目。
2、配置vs2017工程项目:
右击项目------>属性
1)配置windows SDK版本:
2)配置包含目录和库目录
库目录配置上CUDA的lib、x64文件夹所在的路径:
需要说明的是:由于前面步骤以及将CUDNN以及tensorRT的bin、lib以及include目录都以及复制到CUDA的目录下,所以这里加上包含目录和库目录的路径其实也是一起将CUDNN以及tensorRT的bin、lib以及include的目录包含进去了。
当然,前面可不用将CUDNN以及tensorRT的bin、lib以及include复制到CUDA的文件夹下,不复制的话那现在vs2017的配置上就得加上CUDNN以及tensorRT的的include以及lib的目录。
3)添加代码:
代码中添加一个语句:getchar()
这是为了后面运行程序时能停留在打印信息上,不然一晃而过看不到打印信息。
4)重新编译代码:
右击项目名----> 重新生成
编程通过:
5)运行代码:
当然,也可以到路径:D:\installfile\TensorRT-8.4.1.5\bin下运行生成的exe:
这个文件是在编译代码的时候生成的可执行文件。
至此,tensorRT环境安装完毕!