Ubuntu20.04 安装tensorRT

环境

• CUDA 11.1 （11.2、11.3）
• CUDNN 8.1

下载tensorRT （匹配相应的版本）

官网地址 ：https://developer.nvidia.com/nvidia-tensorrt-8x-download

选择合适的版本下载，本人下载如图所示：

下载的时tar包

安装

解压

tar zxf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz

存放在自己想放的目录下（也可以重命名），如：

mv TensorRT-8.0.1.6 /opt

添加环境

将下面的环境变量 添加到.bashrc文件并保存

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/TensorRT-8.0.1.6/lib

激活环境

source .bashrc

复制tensorRT目录下 lib、include文件夹到系统文件夹（或者将这两个文件夹路径添加到.bashrc文件中）

sudo cp -r ./lib/* /usr/lib
sudo cp -r ./include/* /user/include

C++测试是否成功

测试代码：TensorRT-8.0.1.6/samples/sampleMNIST
本版本无需去data文件夹下载对应的数据集，自己带了，如果没有，那就下载对应的数据集

python download_pgms.py

如果文件夹下有pgm格式的图片 说明下载成功
在tensorRT目录下samples文件夹下 用sampleMNIST示例测试
编译

make

清除之前编译的可执行文件及配置文件

make clean

编译成功，执行bin目录下的可执行文件

例如：

./../../bin/sample_mnist

结果：

Python 环境

在tensorRT目录下 python文件夹下 安装相应的whl文件（前提时你有python环境），如下图：

安装

pip install pycuda

和