TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )

原文地址:ZhouJianGuo|个人博客https://www.zhoujianguo.ltd/#/fore/article?id=134

本文主要记录一下,windows+Anaconda配置TensorRT的教程,通过此教程配置完TensorRT后,可以在Anaconda的虚拟环境内使用TensorRT

注意:本文背景环境为Windows 10 和 Anaconda已经安装好,若没有安装好,可以参考之前的一篇文章 点击这里进行跳转,里面记录了Anaconda的相关教程

一、创建虚拟环境

进入conda命令控制台,进入方法如下图所示

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第1张图片

输入以下指令

conda create -n tensorrt python=3.8

输入y即可,输入以下指令进入创建好的虚拟环境

activate tensorrt

二、安装CudaToolKit

前往官网下载cudatoolkit,点击这里进行跳转,选择合适的版本后下载,建议下载local包,一步到位,本教程的环境是windows 10,选择结果如下图所示

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第2张图片

下载完成后全程next即可

,安装完成以后,可以输入以下指令以检测cudatoolkit是否可用

nvcc -V

三、安装CUDNN

前往官网下载cudnn安装包点击这里进行跳转,注意要选择与cudatoolkit版本相兼容的cudnn,这里我们选择cudnn8.2.1对应的windows版本,如下图所示:

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第3张图片

下载解压后可以看到有lib include bin三个子目录,如下图所示,将这三个子文件夹直接复制

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第4张图片

复制完毕后,打开cudatoolkit的安装目录,例如:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA,然后直接对应版本的cudatoolkit文件目录下粘贴即可,如下图所示

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第5张图片

还需要将cudatoolkit目录下的bin、include和lib路径添加到环境变量中。右键桌面的此电脑,点击左侧最下方的高级系统设置,如下图所示

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第6张图片

选择环境变量,如下图所示

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第7张图片

点击系统环境变量的path,点击新建,将刚才复制的路径粘贴进来,如下图所示(注意:默认bin目录已经是系统环境变量的,如下图第一条所示,如果已经有的话就不要再添加bin的路径了

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第8张图片

四、安装TensorRT

4.1 下载TensorRT

首先,前往官网下载TensorRT点击这里进行跳转,这一步需要注册为英伟达开发者用户,这里就不再过多介绍了,登录后会出现不同版本的tensorrt资源,如下图所示。

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第9张图片

本文使用的是tensorrt版本为8,点击展开,根据系统版本以及cudatoolkit版本选择对应的资源,根据本文背景环境,选择的版本如下图所示:

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第10张图片

4.2 配置TensorRT系统环境变量

下载完毕后,进行解压,并且进入lib子文件夹,如下图所示,将路径复制下来,例如,C:\Users\admin\Downloads\Compressed\TensorRT-8.2.1.8\lib

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第11张图片

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第12张图片

依次确定保存出来即可。

4.3 安装TensorRT依赖

进入刚才解压后的TensorRT文件夹内的python子目录,根据python版本选择好对用的whl文件,如下图所示。

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第13张图片

重新打开conda控制台(一定要重新打开,环境变量发生改动后,cmd并不会刷新!!),重新进入tensorrt的虚拟环境。

activate tensorrt

拼接路径 C:\Users\admin\Downloads\Compressed\TensorRT-8.2.1.8\python\tensorrt-8.2.1.8-cp38-none-win_amd64.whl,输入以下指令并执行,执行结果如下图所示。

pip install C:\Users\admin\Downloads\Compressed\TensorRT-8.2.1.8\python\tensorrt-8.2.1.8-cp38-none-win_amd64.whl

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第14张图片

安装完成后会出现successfully的字样,到这里tensorrt已经安装结束

五、安装Pycuda

pycuda依赖是封装好的cuda api接口,可以用来申请显存等操作。

前往下载合适的版本,点击这里跳转,如下图所示。

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第15张图片

进入下载的位置,拼接好路径,例如:c:\users\admin\downloads\pycuda-2021.1+cuda115-cp38-cp38-win_amd64.whl

进入tensorrt虚拟环境后,输入以下指令安装pycuda

pip install c:\users\admin\downloads\pycuda-2021.1+cuda115-cp38-cp38-win_amd64.whl

安装完成后会提示successfully installed的信息

六、测试TensorRT 样例

tensorrt官方提供了可供测试的样例,进入刚才下载好的tensorrt文件夹下面的samples\python\目录下,这里我们选择一个手写数字识别的示例,如下图所示。

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第16张图片

拷贝路径,在tensorrt的虚拟环境下,cd 此路径,然后输入如下指令

python sample.py

此时会进行训练,并且在训练结束后给出相应的预测结果,如下图所示,到此为止,tensorrt已经彻底安装完毕

TensorRT(一)Windows+Anaconda配置TensorRT环境 (Python版 )_第17张图片

七、结语

可能是因为使用PC配置tensorrt的人比较少,再加上anaconda环境下,使用的人更加少之又少,其实安装教程,英伟达有参考文档的(在tensorrt安装包解压目录下的doc子目录,纯英文版),但是里面并没有提到anaconda。这次配置环境后我才明白anaconda和操作系统的环境并不是上下层关系,而是并存关系,即操作系统存在的依赖,虚拟环境都会有,但是反之则不是。

八、问题笔记

不要下载8.3.1 for cuda 11.5版本的cudnn,有bug,如下图所示,百度了一下,好像有人也遇到了问题

你可能感兴趣的:(TensorRT,python)