Ubuntu Tensorrt安装教程

1、下载tensorrt

本文安装采用的是tar压缩包进行安装,安装环境为：Ubuntu18.04、cuda11.0、cudnn8.04、python3.6，tensorrt的安装包下载链接: https://developer.nvidia.com/nvidia-tensorrt-7x-download.，根据自己的电脑环境下载合适的安装包，安装tensorrt之前需要安装cuda和cudnn。

下图是7.2.1版本的安装包下载界面：

2、安装tensorrt

这里给出官方的安装教程链接: https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar.
直接使用官方安装教程时会安装不上，可以参考以下安装教程
1、将下载好的压缩文件进行解压,在终端执行以下命令，双引号中的内容根据自己下载的文件进行替换

version="7.x.x.x"
os="os"
arch=$(uname -m)
cuda="cuda-x.x"
cudnn="cudnn8.x"
tar xzvf TensorRT-${version}.${os}.${arch}-gnu.${cuda}.${cudnn}.tar.gz
#7.xxx是您的TensorRT版本
#os是：Ubuntu-16.04或Ubuntu-18.04
#arch直接复制不需要改动
#CUDA-XX 是CUDA版本 10.2， 11.0， 要么 11.1
#cudnn8.x 是cuDNN版本 8.0

2、将绝对路径添加到TensorRTLIB 目录到环境变量 LD_LIBRARY_PATH

#使用以下命令打开.bashrc文件
sudo gedit ~/.bashrc

#解压得到TensorRT-7.2.1.6的文件夹，将里边的lib绝对路径添加到环境变量中，用户名和TensorRT的版本号更换为自己的
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/lig/TensorRT-7.2.1.6/lib

#保存文件并退出，执行以下命令，使路径生效
source ~/.bashrc

3、安装Python TensorRT wheel文件
cp3x的x代表python的版本，如下图，cp34代表Python版本为3.4，这个需要根据自己电脑安装的Python版本进行选择，选择错误会报错，大概意思是说tensorrt不能在这个平台上安装
特别注意：
如果你想把tensorrt安装到系统的python中，需要使用pip3；如果想装到anconda的python环境中，直接使用pip，博主是安装到anconda环境中，所以后续默认都使用pip

cd TensorRT-${version}/python
sudo pip install tensorrt-7.2.1.6-cp3x-none-linux_x86_64.whl

4、安装Python UFF wheel文件。只有当你将TensorRT与TensorFlow一起使用时才需要安装这个文件

cd TensorRT-${version}/uff
sudo pip install uff-0.6.9-py2.py3-none-any.whl

5、安装Python graphsurgeon whl文件

cd TensorRT-${version}/graphsurgeon
sudo pip install graphsurgeon-0.4.5-py2.py3-none-any.whl

6、安装Python onnx-graphsurgeon whl文件

cd TensorRT-${version}/onnx_graphsurgeon
sudo pip install onnx_graphsurgeon-0.2.6-py2.py3-none-any.whl

如果你的电脑没有安装cmake，安装这个文件时会报找不到cmake这个模块的错误，使用以下命令安装cmake，pip默认安装到anconda，pip3默认安装到系统自带的python环境中。

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple cmake

7、验证安装
终端进入python环境，输入import tensorrt，打印出tensorrt版本，即安装成功

示例都在samples文件夹，里面有c++和python示例
a、生成并运行其中一个样本，例如， 样本sampleMNIST，示例运行方法都在README.md文件中
b、Python示例位于 sampels/ python 目录（提示没有pycuda时，参考第8条）

8、安装pycuda

pip install 'pycuda>=2019.1.1'