yoloX模型部署-tensorrt配置

1、window下anaconda安装tensorrt

首先,前往官网下载TensorRT(https://developer.nvidia.com/nvidia-tensorrt-8x-download),这一步需要注册为英伟达开发者用户,登录后会出现不同版本的tensorrt资源,下载与自己的的cuda版本对应的tensorrt,下载后解压

(1),将加压后的lib目录添加到系统环境变量

       我的目录是D:\software\TensorRT-8.2.1.8\lib

(2),进入python目录安装对应的版本即可

      我的目录是D:\software\TensorRT-8.2.1.8\python
      安装指令是pip install tensorrt-8.2.1.8-cp39-none-win_amd64.whl

2、安装torch2trt

git clone https://github.com/NVIDIA-AI-IOT/torch2trt
cd torch2trt
python setup.py install

我把python写成了pip导致报错如下,所以写命令的时候注意哦

ERROR: unknown command ".\setup.py"

3,转换模型

python tools/trt.py -n yolox-s -c yolox_s.pth

python3 tools/trt.py -f lx/drone.py
python tools/trt.py -n yolox-tiny -c best_ckpt.pth

这个过程大约需要10分钟,生成的模型保存在:

YOLOX_outputs/yolox_s/model_trt.engine

4 yolo模型部署的时候为什么要make和build

参考连接:
https://zhuanlan.zhihu.com/p/415017602
https://blog.csdn.net/JianguoChow/article/details/123926491

5 yolox训练得到的tensorboard如何使用

6,yolox使用细节

1,配置文件目录:yolox/exp/yolox_base.py中,yolox_base.py是一个基础配置问题,可以在里面修改类别数量,模型深度,epoch等

7 疑问

为什么部署到英伟达硬件上需要写成yolov5c++,是不是python版本也能用,但是c++的更快啊,还有,部署到硬件上,需要学习cuda编程吗?还是说都有现成的包啊
关键词:
cuda编程
硬件部署
去B站上找找学习视频

你可能感兴趣的:(目标跟踪,目标检测,模型部署,python,开发语言)