win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署

一 安装visual studio2019
二 安装opencv 参考win10安装opencv

三 cuda11.0安装

1 打开官网(https://developer.nvidia.com/cuda-toolkit-archive),选择11.0
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第1张图片
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第2张图片
2 运行安装包,选择自定义安装(第一安装可以全选)
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第3张图片
3 路径选择的是默认位置,后面一路默认就OK,安装成功关闭。
4 安装结束后,右键 我的电脑–>属性–>高级系统设置–>环境变量,系统变量中已经加入了cuda的两个路径。
在这里插入图片描述
5 在系统变量中加入下面的路径,点击确定.

CUDA_BIN_PATH: %CUDA_PATH%\bin
CUDA_LIB_PATH: %CUDA_PATH%\lib\x64
CUDA_SDK_PATH: C:\ProgramData\NVIDIA Corporation\CUDA Samples\v11.0
CUDA_SDK_BIN_PATH: %CUDA_SDK_PATH%\bin\win64
CUDA_SDK_LIB_PATH: %CUDA_SDK_PATH%\common\lib\x64

6 在系统变量path中加入下面的的变量.

%CUDA_BIN_PATH%
%CUDA_LIB_PATH%
%CUDA_SDK_BIN_PATH%
%CUDA_SDK_LIB_PATH%

7 测试

打开cmd输入nvcc -V
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第4张图片
cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\demo_suite
执行bandwidthTest.exe
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第5张图片
执行 deviceQuery.exe
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第6张图片

四 cudnn安装

1 官网下载(https://developer.nvidia.com/cudnn)
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第7张图片win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第8张图片
2 将解压文件里面的bin、include、lib文件夹里面的文件全部复制到CUDA安装目录C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0下对应的bin、include、lib里

参考:win10安装cuda
win10 安装Cuda11.0 + cudnn + pytorch

三 tensorrt7.1.3.4配置与测试

1 官网下载tensorrt7安装包
注:文件名TensorRT-7.1.3.4.Windows10.x86_64.cuda-11.0.cudnn8.0.zip
2 添加环境变量
将TensorRT-7.0.0.11.Windows10.x86_64.cuda-10.0.cudnn7.6\TensorRT-7.0.0.11\lib 加到环境PATH中(根据自己路径)
3 解压下载好的文件,复制lib目录下的dll文件到cuda的bin下
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第9张图片
注: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin [根据自己的cuda安装路径即可]
4 安装uff和graphsurgeon
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第10张图片

pip install graphsurgeon-0.4.1-py2.py3-none-any.whl
pip install uff-0.6.5-py2.py3-none-any.whl

5 VS 2019配置TensorRT并测试
找到sample_mnist.sln,用vs2019打开
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第11张图片
右键选择属性进行配置
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第12张图片
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第13张图片
具体配置如下:
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第14张图片
在库目录配置tensorrt lib,在包含目录配置include目录
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第15张图片为了防止后面执行exe操作闪退,添加getchar()到main函数下(亲测不加会卡)
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第16张图片
编译
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第17张图片
编译成功后,会在 TensorRT-7.1.3.4.Windows10.x86_64.cuda-11.0.cudnn8.0\TensorRT-7.1.3.4\bin路径下生成文件sample_mnist.exe
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第18张图片
下载测试数据(运行图中的py文件)
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第19张图片
注:可能会出现urllib.error.HTTPError: HTTP Error 503: Service Unavailable,用浏览器手动访问数据集网站,可以正常访问,于是就尝试运行几次代码,然后就成功了。

最后运行sample_mnist.exe 测试结果
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第20张图片
参考:Win10+ VS2017+TensorRT 7.0 安装
基于TensorRT的YOLO(V3\4\5)模型部署

四 win10+tensorrt+yolo部署(主要是根据编译时出现的问题来记录)

项目地址:tensorrt跨平台部署
右键配置第一个程序属性,添加tensorrt路径
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第21张图片
没有配置可能出现以下的问题:
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第22张图片
添加opencv路径

win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第23张图片
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第24张图片
没有配置可能出现以下的问题:
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第25张图片

修改算力值,这个要根据显卡支持的算力来改,2070super支持75
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第26张图片

c++17报错解决
在这里插入图片描述
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第27张图片

在右键属性配置种把test编译成exe ,detect编译成动态库,然后把test设成启动项
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第28张图片
未设置出现报错:
win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署_第29张图片

你可能感兴趣的:(win10+vs2019+cuda11.0+cudnn8.0+tensorrt7.1.3.4配置与测试++tensorrt+yolo部署)