NVIDIA TensorRT (python win10)安装成功分享

文章目录

    • 1.TensorRT 下载
    • 2.安装
    • 3.测试
    • 4.运行
    • 补充

1.TensorRT 下载

TensorRT 各个版本的下载网址(用这个网址可以跳过 老黄的调查问卷):
https://developer.nvidia.com/nvidia-tensorrt-8x-download
https://developer.nvidia.com/nvidia-tensorrt-7x-download
https://developer.nvidia.com/nvidia-tensorrt-6x-download

主要是 for linux 也有windows
NVIDIA TensorRT (python win10)安装成功分享_第1张图片
很奇怪 TensorRT 7.xTensorRT 6.x 里没有python 文件夹

最后我在TensorRT 8.x 里发现
TensorRT-8.2.1.8.Windows10.x86_64.cuda-10.2.cudnn8.2 可以使用

最后用了这版,我的笔记本显卡是1660Ti

TensorRT-7.2.3.4.Windows10.x86_64.cuda-10.2.cudnn8.1文件内容:
NVIDIA TensorRT (python win10)安装成功分享_第2张图片
TensorRT-8.2.1.8.Windows10.x86_64.cuda-10.2.cudnn8.2文件内容:
NVIDIA TensorRT (python win10)安装成功分享_第3张图片


2.安装

一开始安装我参考了他的,感谢作者~,但又不太一样,我改进优化了一下:https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/120360288

  • 2.1 配置环境:

将下载好的文件解压到一个安静的磁盘位置,然后将“X:\TensorRT-7.2.3.4\lib”添加环境变量。 环境变量位置: 此电脑图标–右键属性–高级系统设置–高级–环境变量–系统变量–path
NVIDIA TensorRT (python win10)安装成功分享_第4张图片

  • 2.2 安装必要的whl文件

安装 graphsurgeon、uff、onnx_graphsurgeon, 如下图所示:
NVIDIA TensorRT (python win10)安装成功分享_第5张图片
安装方法是用Anaconda Prompt cd到这三个文件夹下 然后再安装,如下图所示:
NVIDIA TensorRT (python win10)安装成功分享_第6张图片
记得激活需要安装的虚拟环境

如果 onnx_graphsurgeon 安装失败
NVIDIA TensorRT (python win10)安装成功分享_第7张图片
可以用以下命令:

pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl -i https://pypi.tuna.tsinghua.edu.cn/simple
  • 2.3 安装python 版本的tensorrt-8.2.1.8
    关键的来了,找到TensorRT里的python文件夹,找到对应环境的python版本,进行安装:
    NVIDIA TensorRT (python win10)安装成功分享_第8张图片

  • 2.4 复制dll文件到cuda安装目录
    NVIDIA TensorRT (python win10)安装成功分享_第9张图片
    复制到:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin 下
    NVIDIA TensorRT (python win10)安装成功分享_第10张图片
    到这里就安装完成了,需要测试一下。


3.测试

简单测试一下

import tensorrt as trt

print(trt.__version__)

在这里插入图片描述
这样就没问题了

4.运行

将.pt转换为.engine
.pt --> .onnx -->.engine

NVIDIA TensorRT (python win10)安装成功分享_第11张图片
转换后的.engine 可以在win10平台上使用

一个轻量模型 可以从 一张图片 0.008s提速到0.004s,从 125帧/s 提升到 250帧/s,大约2倍(估计本来就快)

补充

1.如果还需要安装pycuda 如下安装网址:
https://www.lfd.uci.edu/~gohlke/pythonlibs/#pycuda

2.如果转yolov5 的.pt权重遇到了这个问题:
Could not load library cudnn_cnn_infer64_8.dll. Error code 126
Please make sure cudnn_cnn_infer64_8.dll is in your library path!
NVIDIA TensorRT (python win10)安装成功分享_第12张图片
可以参考这个老哥的方法:
https://blog.csdn.net/illumiD/article/details/123266661
成功有效,比换版本的方便多了
NVIDIA TensorRT (python win10)安装成功分享_第13张图片
成功!

你可能感兴趣的:(python,pytorch)