【Ubuntu版】TensorRT安装教程（deb方式）

一、参考资料

TensorRT 教程（一）：安装TensorRT

二、注意事项

1. CUDA，cuDNN，TensorRT都需要deb方式安装，否则报错

三、关键步骤

1. 下载tensorRT
2. 解压tensorRT
3. Anaconda创建虚拟环境

# 需要指定python版本
# 注意：如果想要在python3.7中使用tensorRT，那么这里一定要写3.7.0，否则可能报错，很坑。同理，想用3.6就写3.6.0
conda create -n 虚拟环境名称 python=3.7.0

4. 进入Anaconda虚拟环境，安装tensorRT

conda activate xxx
cd /home/yichao/360Downloads/TensorRT-7.1.3.4/python
pip install tensorrt-7.1.3.4-cp37-none-linux_x86_64.whl

5. 安装uff

# uff安装包，tensorflow会用到
# TensorFlow 训练后的网络通过 UFF 编码方式转换给 TensorRT 进行运行
cd /home/yichao/360Downloads/TensorRT-7.1.3.4/uff
pip install uff-0.6.9-py2.py3-none-any.whl

6. 安装 graphsurgeon

# graphsurgeon 是对UFF编码网络进行定制化操作的库，比如插入或删除神经网络某一层layer
cd /home/yichao/360Downloads/TensorRT-7.1.3.4/graphsurgeon
pip install graphsurgeon-0.4.5-py2.py3-none-any.whl

7. 添加环境变量并更新

sudo gedit ~/.bashrc

# 添加配置
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/yichao/360Downloads/TensorRT-7.1.3.4/lib

# 更新配置
source ~/.bashrc

8. 测试是否安装成功

# 方法一
python
import tensorrt
tensorrt.__version__

# 方法二
# 1. 查看TensorRT的安装目录下文件是否齐全，会看到包含以下文件夹：lib，include，data…
tree -d

# 2. 运行例子sampleMNIST
cd /home/yichao/360Downloads/TensorRT-7.1.3.4/samples/sampleMNIST
make
./sample_mnist

四、可能存在的问题

• 安装CUDA的方式和安装TensorRT的方式不同
  参考资料 乌班图 18.04 tensorRT安装踩坑
  

下列软件包有未满足的依赖关系：
 tensorrt : 依赖: libnvinfer7 (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-plugin7 (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvparsers7 (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvonnxparsers7 (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-bin (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-dev (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-plugin-dev (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvparsers-dev (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvonnxparsers-dev (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-samples (= 7.0.0-1+cuda10.0) 但是它将不会被安装
            依赖: libnvinfer-doc (= 7.0.0-1+cuda10.0) 但是它将不会被安装
E: 无法修正错误，因为您要求某些软件包保持现状，就是它们破坏了软件包间的依赖关系。

错误原因：
如果安装tensorRT采用deb包安装，那么CUDA也必须采用deb包安装。

解决办法：
卸载CUDA，重新安装CUDA

• python版本与tensorRT不匹配

ERROR: tensorrt-7.2.3.4-cp37-none-linux_x86_64.whl is not a supported wheel on this platform

错误原因：
python版本不一致

解决办法：
创建新的虚拟环境，指定python版本，重新安装tensorRT