【亲测】ubuntu20.4安装TensorRT

安装TensorRT之前请确保显卡驱动 CUDA  cuDNN全部成功安装

安装CUDA+显卡驱动请参照:

【亲测】ubuntu20.4 显卡驱动+CUDA11.8一起安装_Coding_C++的博客-CSDN博客

安装cuDNN请参照:

【亲测】ubuntu20.4 安装cuDNN v8.9.3_Coding_C++的博客-CSDN博客

一、在NVIDIA官网下载TensorRT

1、网址:Log in | NVIDIA Developer

2、选择TensorRT8

【亲测】ubuntu20.4安装TensorRT_第1张图片

3、选择TensorTR8.6 GA

【亲测】ubuntu20.4安装TensorRT_第2张图片

4、我们选择TAR格式安装(.deb安装很麻烦)

【亲测】ubuntu20.4安装TensorRT_第3张图片

5、选择后会进行下载,直到下载完成。

二、安装

1、下载完成后会在Downloads下有(如:TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz)

2、解压 tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz 

3、执行命令sudo cp -r TensorRT-8.6.1.6 / 将解压的内容拷贝到指定目录(我是到根目录了)

三、配置TensorRT

1、添加系统路径

sudo gedit ~/.bashrc

2、打开~/.bashrc最后添加

export LD_LIBRARY_PATH=/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH

3、让添加的路径生效

source ~/.bashrc

四、测试TensorRT安装是否成功

1、在/TensorRT-8.6.1.6/samples/下找到sampleOnnxMNIST

2、进入sampleOnnxMNIST文件夹

cd sampleOnnxMNIST

3、编译sampleOnnxMNIST 

4、编译成功后在/TensorRT-8.6.1.6/bin会生成sample_onnx_mnist

5、执行sample_onnx_mnist

【亲测】ubuntu20.4安装TensorRT_第4张图片

6、成功后显示

【亲测】ubuntu20.4安装TensorRT_第5张图片

至此TensorRT安装成功

你可能感兴趣的:(C++,C++,ONNX推理部署,CUDA11.8,深度学习,人工智能)