YOLOV5的pt模型转Paddle的inference模型

文章目录

  • 前言
  • 一、环境准备
    • 1、yolov5环境及代码准备
    • 2、Paddle环境搭建
    • 2.1 直接安装
    • 2.2 whl安装
    • 3、x2paddle安装
    • 3.1 直接安装
    • 3.2 源码安装
  • 二、模型准备
    • 1.pt准备
    • 2.pt->onnx
  • 三、模型转换onnx->inference
  • 四、转换中可能会遇到的问题
  • 总结

前言

  近期,项目部署时同时用了pytorch和Paddle,遇到了些问题,觉得可能是框架冲突,所以我去尝试了用Paddle框架去推理YOLOV5,虽然Paddle框架实现的目标检测网络也不少,但是我的模型已经基本成熟,故不想再去重新训练。本文记录的是第一步,也就是pt模型转换为Paddle 支持的inference模型,如下。


一、环境准备

1、yolov5环境及代码准备

  本人所使用的目标检测网络是YOLOV5(建议使用最新版本),下载链接如下:https://github.com/ultralytics/yolov5,这里所需的依赖项根据文中的requirements.txt安装即可

pip install -r requirements.txt

2、Paddle环境搭建

2.1 直接安装

  直接安装的话,参考官网教程:https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/install/pip/windows-pip.html

2.2 whl安装

  由于个人感觉2.1那样安装不太稳定并且还慢,故我一直都是将whl包下下来,然后进行安装的,链接如下:https://www.paddlepaddle.org.cn/whl/mkl/stable.html,这里包含所有版本下的whl文件,根据你的CUDA、cudnn、python版本进行下载安装即可。
  需要注意的是:这里的gpu版本默认不支持tensorrt,如果你想用tensorrt推理,那么按照这个网址去下载对应的版本:https://www.paddlepaddle.org.cn/inference/v2.2/user_guides/download_lib.html,paddle的版本默认是最新的,可以点击页面左上角的倒三角进行切换。

3、x2paddle安装

3.1 直接安装

pip install x2paddle

3.2 源码安装

git clone https://github.com/PaddlePaddle/X2Paddle.git
cd X2Paddle
git checkout develop
python setup.py install

方法一较为稳定,方法二可以体验最新的版本,我求稳,故直接安装

二、模型准备

1.pt准备

  如果你已有自己的yolov5模型,那么可以直接进行下一步,如果没有自己的模型,那么可以去参考网上的教程去训练一下自己的模型,也可以先用官方的模型进行试验一把,先把流程跑通。

2.pt->onnx

如果你习惯命令行操作,可以去网上参考一些转换教程,这里拿官方模型进行示例:

python models/export.py --weights yolov5s.pt --img 640 --batch 1

我习惯直接在代码中进行更改,需要在YOLOV5里的export.py进行参数更改,需要注意的参数如下:

data: 数据集yaml文件路径
weights:自己的模型路径
imgsz:图片尺寸
batch-size:默认为1,不用更改
device:运行设备,若cpu,则直接写cpu,若gpu,则写00,1,2,3
half: 半精度,建议改为False,否则转换inference模型时会出错
dynamic:建议改为False
simplify:建议为True
opset:onnx协议,建议改为1112
include:列表形式,储存你需要转换的模型后缀,支持torchscript, onnx, engine, coreml, saved_model, pb, tflite, tfjs

运行export.py之后,如出现如下界面,则证明转换成功
在这里插入图片描述

转换成功后,会在你的模型路径下生成对应的onnx文件,如图:
YOLOV5的pt模型转Paddle的inference模型_第1张图片

三、模型转换onnx->inference

此步,我们只需要一行命令即可

x2paddle --framework=onnx --model=onnx_model.onnx --save_dir=pd_model   #onnx时
x2paddle --framework=tensorflow --model=tf_model.pb --save_dir=pd_model  #tensorflow时
x2paddle --framework=caffe --prototxt=deploy.prototxt --weight=deploy.caffemodel --save_dir=pd_model  #caffe时

x2paddle目前支持转换的模型格式为Tensorflow、onnx、caffe,参数说明如下

参数 含义
–freamework 需要转换的模型类型(即tensorflow、onnx、caffe)
–model 需要转换的模型路径
–save_dir 保存转换后的模型路径
–prototxt caffe模型的proto文件路径
–weight caffe模型的参数文件路径

如出现如下界面,则证明转换成功:
在这里插入图片描述

转换成功后,会在你指定的save_dir路径下生成如下文件:
YOLOV5的pt模型转Paddle的inference模型_第2张图片
  其中inference_model文件夹就是我们需要的推理模型。x2paddle_code.py是转换后paddlepaddle构建的模型文件。model.pdparams是对应模型文件的权重(不是推理模型权重)。

四、转换中可能会遇到的问题

在pt->onnx时遇到问题:
YOLOV5的pt模型转Paddle的inference模型_第3张图片
解决方案已经提示在图中,看样子是opset过高导致,解决它时,我试过将其降低为9,结果出错:
在这里插入图片描述
字面上看不太兼容,所以我就直接改为了11,最终出现如下成功的界面
在这里插入图片描述

onnx->paddle参考链接如下:https://blog.csdn.net/libo1004/article/details/119026500


总结

  这就是本篇所有内容,后期会出一个Paddle推理YOLOV5的文章,还请多多指教。有错写的地方麻烦帮忙指正,有什么问题可以在评论区交流,回复的可能不太及时,还请谅解,另外,喜欢机器视觉的朋友可以加入QQ群:995760755 一起讨论遇到的一些问题。

你可能感兴趣的:(深度学习,计算机视觉,目标检测)