ncnn上部署yolov5

1、准备工作

  • U神的yolov5源码,下载地址
  • 自己的模型或者yolov5官网发布模型
  • linux系统(本在ubuntu18的docker环境下部署 )
  • ncnn源码,下载地址
  • opencv
  • protobuf 

  • opencv和protobuf必须安装否则在编译ncnn的时候,由于检测不到protobuf和opencv,onnx2ncnn工具不会被编译。

2、.pt文件转.onnx文件

将yolov5从torch框架转到ncnn上前需要用onnx工具先将.pt模型文件转化为.onnx文件,这里主要有两个中的步骤

1、python models/export.py --weights yolov5s.pt --img 640 --batch 1    #将.pt文件用onnx转化为.onnx文件
2、python -m onnxsim yolov5s.onnx yolov5s-sim.onnx   #onnxsim 精简模型

 

3、编译ncnn

1)、安装opencv

sudo apt install libopencv-dev

2)、编译protobuf-2.6.1

下载

wget https://github.com/google/protobuf/releases/download/v2.6.1/protobuf-2.6.1.tar.gz

解压后编译

cd protobuf-2.6.1
./configure
make -j
make check
sudo make install
sudo ldconfig

3)、编译ncnn

git clone https://github.com/Tencent/ncnn.git
cd ncnn
mkdir build && cd build
cmake ..
make
make install

4、onnx2ncnn(有坑)

步骤一   

cd ncnn/build/tools/onnx/

步骤二

./onnx2ncnn yolov5s-sim.onnx yolov5s.param yolov5s.bin #这里yolov5s-sim.onnx为“.pt文件转.onnx文件”生成的文件,输出yolov5s.param yolov5s.bin

这里会出现以下问题,这是由于ncnn不支持focus,这是focus模块转换的报错,我们需要手动修改生成的.param文件的参数。

ncnn上部署yolov5_第1张图片

可以用vim或者其他文本编辑器打开.param文件,该文件主要修改两个大的地方,如图所示:

第一处,修改不支持的层

ncnn上部署yolov5_第2张图片

第一处修改后:

ncnn上部署yolov5_第3张图片

这里主要是删除了不支持的层,并在ncnn中实现focus,删除10层 添加一层 减少了9层
添加的一层的输出可以根据下一层的输入填写,图中已标红,这里176的计算方法为原始层数185-10+1(添加的Yolov5Focus层),167是下一个卷积层的输入。

第二处 修改网络输出的shape,例如原图:

ncnn上部署yolov5_第4张图片

第二处修改后:

ncnn上部署yolov5_第5张图片

这里输出全部改为-1(修改位置为绿色框选的部分),否则回归会出来一堆bounding box,同时记住红色框出的字段,该字段为网络输出的name,在预测代码中,会根据该字段去结果,所以不同的网络需要修改此处。

5、修改yolov5的example代码,这里主要修改网络的输入和输出,输入为模型训练时image 的size,输出层name为第四步中红色框出的字段。

vim example/yolov5.cpp

ncnn上部署yolov5_第6张图片

ncnn上部署yolov5_第7张图片

6、重新编译example,在build/example目录下会生成yolov5的可执行文件,此时就可以测试了。

 

你可能感兴趣的:(学习心得,生活随笔)