香橙派5使用NPU加速yolov5的实时视频推理（一）
前言：
寒假里，博主完成了树莓派4B搭载yolofastest-V2的ncnn加速，效果挺不错的，但总感觉还是稍微差点意思，于是就购买了一块香橙派5，想要用RK3588芯片自带的NPU来加速深度学习的部署，在2023年3月4日也是完成了香橙派5的NPU加速深度学习部分，其效果也确实非常可观，在画质较低的情况下，运行速度达到了100fps以上，下面是我在B站发布的效果视频点我跳转。这篇博客也是为了总结一下玩香橙派5的时候遇到的坑。
准备材料：
1、香橙派5
2、一台windows10或windows11的电脑
3、一个内部带有Ubuntu20.04的移动硬盘（如果没有，也可以用VMware安装个虚拟机也行）。
3、USB摄像头（某宝上有卖的，啥都可以）用来做视频识别
4、64G内存卡（烧录了官方的Debian11系统）、HDMI线、显示屏、官方的电源线、键鼠套装
5、香橙派5官方提供的无线网卡（其他网卡应该也行，只不过当时我买了，即使安装了驱动也没上成网）
6、散热壳（也是某宝买的，不是官方的）
说明：
关于RKNN，官方给出了两种思路，一种是关于C的，另一种是关于Python的，这里我只介绍Python有关部分。
在接下来的操作中，一和二是在windows系统上进行操作的，三是在Ubuntu20.04系统上进行的，四是在香橙派5上操作的，大家注意区分！！！
一、使用官方指定的yolov5版本去训练：
不瞒大家，对于yolov5来说，博主本人在寒假之前也没用过，这个寒假才学会了yolov5的训练和应用，在此之前，我甚至都不知道yolov5还分为多个版本，RKNN官方教程
进入教程后，首先点击框内链接跳转至yolov5的GitHub仓库
博主这里跳转过后是403，没关系，我们直接点击yoloV5官方库跳转至如下界面。
点击左上角箭头所指区域，搜索c5360f6e7009eb4d05f14d1cc9dae0963e949213，跳转至如下界面，按顺序点击箭头所指区域
进入如下界面后，点击Browse file
这样，我们就找到了正确的版本了
把代码保存到本地，接下来，我们点击Releases · ultralytics/yolov5 · GitHub，进入如下界面
滚动滑轮大概在界面的中部位置，点击箭头所指区域
进入如下界面
滑动滚轮到页面底部，下载我们的预训练模型yolov5s.pt
然后就是开始我们的yolov5的简单训练了，这里我参考的是这篇博客，这位博主写的很好，对小白很友好小白YOLOv5全流程-训练+实现数字识别_yolov5数字识别_牛大了2022的博客-CSDN博客
当然了，我们因为选择了不同的版本，会出现一点小的问题，这里我也记录了下来。
1、这里一定要采用单引号，否则就会报出这个错误ValueError: too many dimensions ‘str‘
2、当出现OSError: [WinError 1455] 页面文件太小,无法完成操作，一般是要去给Anaconda所在的盘符分配一定的虚拟内存，同时把train.py里的'--batch-size'选项调小，我是轻薄本，于是就改成了4，虚拟内存分配了50G，此外，如果多次输出这个错误的话，就尽量不要用python终端去执行命令了，直接修改train.py里面的参数，然后运行train.py
3、当出现如下错误的时候，不要慌张，可以把所有的np.int修改成np.int_即可
4、如果以上错误都解决了的话，已经开始训练了，结果出现下面的错误
这样的话，就要进入loss.py函数，修改两个地方，第一个地方：
for i in range(self.nl):
anchors = self.anchors[i]
改为如下所示：
for i in range(self.nl):
anchors, shape = self.anchors[i], p[i].shape
第二个地方：
indices.append((b, a, gj.clamp_(0, gain[3] - 1), gi.clamp_(0, gain[2] - 1))) # image, anchor, grid
改为：
indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1))) # image, anchor, grid
以上的错误解决完了就可以训练了。博主我啊，为了写这篇博客，还把这整个操作给又弄了一遍，各位看在这么辛苦的份上，给我点个赞吧。
二、将训练好的best.pt转为best.onnx
这里，我们再次进入RKNN官方教程这里，按照官方提供的步骤来操作。
这一步一定要等训练完成后，再对export.py进行修改，然后我们要把得出的best.pt复制到export.py同一级文件夹下。
python export.py --weights best.pt --img 640 --batch 1 --include onnx我确实报了一大堆警告，最开始我没有去管，后来到了转rknn的时候，出了个大问题
这是报的错误
WARNING: The shape inference of prim::Constant type is missing, so it may result in wrong shape inference for the exported graph. Please consider adding it in symbolic function.
我们要到export.py文件里面，把'--opset'选项该成11，再次运行代码，弹出下面的界面，没有了上面说的警告，但还是会有一些警告，博主上网查了一些，说是深度神经网络的网络结构太灵活，网络结构中出现不少if else 语句，需要去掉，这个我没在意，后续也没出啥问题。
之后，在export.py的同级目录下，就会生成best.onnx这个文件，我们需要做的就是把这个文件copy到我们的Ubuntu20.04系统里面，进行处理。