rknn模型转换问题记录

rknn模型转换问题记录

    • 识别框问题
  • 2022.8.3修改:

识别框问题

  1. yolov5s训练效果良好(自定义数据集,口罩识别)
https://github.com/airockchip/yolov5.git
https://blog.csdn.net/m0_51714298/article/details/125916417

rknn模型转换问题记录_第1张图片
2. 转换rknn过程正常无报错(onnx2rknn.py)
rknn模型转换问题记录_第2张图片
3. 部署在rk3588上出现问题(输出目标过多)
rknn模型转换问题记录_第3张图片
处理后的图如下(问题未知,暂未解决):
rknn模型转换问题记录_第4张图片

2022.8.3修改:

经过各种尝试,最终解决:
原来是在转换模型的时候rknn.config中的mean_values与std_values以前测试的时候删掉了。(血泪教训)

笔记:其中还尝试将onnx输出修改为5维[1,3,20,20,7],原问题不仅没解决,还增加了新问题
rknn模型转换问题记录_第5张图片
切记:rknn模型的输出有三个,分别是:
1×255×80×80
1×255×40×40
1×255×20×20
其中这里的255是85*3,这里的3是指3个anchor产生的3个box,而这里的85是指5+80=85,其中80是类别数量,每个类别数量对应一个label score,—共80个label score,而5是指box的四个坐标加一个box score.

另外,yolov5-6.0输出有四个,但rknn只需三个,具体修改可参考
https://zhuanlan.zhihu.com/p/448651888
再记录一下做的很有用处的笔记
https://blog.csdn.net/Jormungand123/article/details/124420693?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-1-124420693-blog-123525405.pc_relevant_default&spm=1001.2101.3001.4242.2&utm_relevant_index=4

你可能感兴趣的:(人工智能,pytorch,神经网络,深度学习)