Ubuntu 20.04 安装 TensorRT 8.2.5.1

首先要安装 cuda 和 cudnn，我装的版本分别是 python 3.8，cuda 11.3，cudnn 8.4，TensorRT 8.2.5.1

一、cuda 安装

由于本机之前装 pytorch 的时候已经装过 cuda 了，所以跳过第一步。

二、cudnn 安装

1、下载并解压安装包

去 nvidia 官网下载 cudnn 安装包，我这里下载的是8.4.0版本的，注意 cuda 版本和 cudnn 版本的对应关系别搞错了。
下载地址：https://developer.nvidia.com/rdp/cudnn-archive

下载得到压缩包 cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar.xz，将其解压。

tar -zxvf cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar.xz

2、将 cudnn 的文件复制到 cuda 中

将压缩包内的文件复制到 cuda 中

cd cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive
sudo cp ./include/cudnn*.h /usr/local/cuda/include/
sudo cp ./lib/libcudnn* /usr/local/cuda/lib64/
sudo chmod a+r /usr/local/cuda/include/cudnn.h

配置环境变量

export PATH=$PATH:/usr/local/cuda/bin
export LD_LIBRARY_PATH=/usr/local/cuda/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

3、验证是否安装成功

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

出现下图所示就说明安装成功了，版本为8.4.0

三、TensorRT 安装

1、下载安装包

去 nvidia 官网下载 tensorrt 的安装包，需要登录才能下载，没有账号的可以注册一个。
https://developer.nvidia.com/nvidia-tensorrt-download

解压文件

tar -zxvf TensorRT-8.2.5.1.Linux.x86_64-gnu.cuda-11.4.cudnn8.2

2、添加环境变量

sudo vim ~/.bashrc
# 在最后添加一行
export LD_LIBRARY_PATH=/opt/TensorRT-8_0_1_6/lib:$LD_LIBRARY_PATH
source ~/.bashrc

3、安装 TensorRT

cd ./TensorRT-8.2.5.1/python

里面有多个 python 版本的包，我的环境是 python 3.8 的，所以选择 cp38 的安装。

记得切换到要安装的环境

pip install tensorrt-8.2.5.1-cp38-none-linux_x86_64.whl

4、验证是否安装成功

进入 python 看能不能成功导入 tensorrt