ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)

目录

  • 前言
  • pip安装
    • 可能出现的报错:
  • tar.gz安装

前言

看了无数教程和b站视频,啊啊啊啊啊啊啊啊啊啊啊tensorRT要我狗命啊。我要写全网tensorRT最全的博客!!!
总体来说成功安装方式有两种,pip安装和tar.gz安装(其实官网安装方式居多,奈何没有sudu权限~)我在两台服务器上分别用连这个红安装了tensorRT8.6.1,
硬件:
ubuntu 20.04
cuda:11.0
查看指令:cat usr/local/cuda/version.txt cat /etc/issue
在这里插入图片描述

pip安装

参考:NVIDIA官方安装教程

安装指令:
进入anaconda环境,python3 -m pip install --upgrade tensorrt (安装最新版)
测试:

python3
>>> import tensorrt
>>> print(tensorrt.__version__)
>>> assert tensorrt.Builder(tensorrt.Logger())

可能出现的报错:

1.[TensorRT] ERROR: CUDA initialization failure with error 222. Please check your CUDA installation: http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html
2.CUDA initialization failure with error: 35. Please check your CUDA installation:
解决方案:
pip uninstall tensorrt
pip install tensorrt==查看安装版本,一个一个试
(毕竟我也没办法升级显卡驱动等等~)

成功安装,如下:
ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第1张图片

tar.gz安装

参考官方安装教程:https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar

  1. 进入下载页面官方下载,注册然后点击“NVIDIA TensorRT 8.x Download”,勾选“ I Agree To the Terms of the NVIDIA TensorRT License Agreement”
    ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第2张图片2. 把压缩包放在可放的路径,解压:tar zxf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
    cd TensorRT-8.6.1.6
    export LD_LIBRARY_PATH= L D L I B R A R Y P A T H : / h o m e / 用户名 / 1. s o f t w a r e s / T e n s o r R T − 8.6.1.6 / l i b s o u r c e   / . b a s h r c e x p o r t L D L I B R A R Y P A T H = LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/lib source ~/.bashrc export LD_LIBRARY_PATH= LDLIBRARYPATH:/home/用户名/1.softwares/TensorRT8.6.1.6/libsource /.bashrcexportLDLIBRARYPATH=LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/include/
    source ~/.bashrc 在这里插入图片描述
  2. 参考官网,pip安装各种包
    ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第3张图片
    这些wheel都在TensorRT-8.6.1.6文件夹中,cd过去pip就行
    ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第4张图片
  3. 测试
cd 1.softwares/TensorRT-8.6.1.6/samples/sampleOnnxMNIST
make
../../bin/sample_onnx_mnist

ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第5张图片
ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第6张图片
ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_第7张图片
参考连接:
https://zhuanlan.zhihu.com/p/392143346
【Linux安装Tensorrt】 https://www.bilibili.com/video/BV1kB4y117NZ/?share_source=copy_web&vd_source=4e0c29ba5725db288c1234b3d73dcfce
https://blog.csdn.net/qq_42160143/article/details/129837613

你可能感兴趣的:(tensorRT,模型部署,模型量化)