【RV1126/RV1109学习笔记】#RKNN篇#(4)RKNN模型推理示例

文章目录

  • 一、概述
  • 二、模型推理流程
  • 三、模型推理参考示例
  • 四、执行模型推理
  • 问题解决

一、概述

  • RKNN-Toolkit 能够在 PC 上模拟 Rockchip NPU 运行 RKNN 模型并获取推理结果;也可以将RKNN 模型分发到指定的 NPU 设备上进行推理。
  • RKNN-Toolkit 通过 PC 的 USB 连接到开发板硬件,将构建或导入的 RKNN 模型传到 RV1126 上运行,并从 RV1126 上获取推理结果、性能信息。
  • 通过模型推理了解模型的精度,大小和速度等指标。然后可以对训练的模型进行一些压缩、剪枝或者是操作上面的计算优化。
  • Top-1 (Accuracy)是指排名第一的类别与实际结果相符的准确率;Top-5 (Accuracy)是指排名前五的类别包含实际结果的准确率。
  • TOP-5正确率 = (所有测试图片中正确标签包含在前五个分类概率中的个数) / (总测试图片数)

二、模型推理流程

【RV1126/RV1109学习笔记】#RKNN篇#(4)RKNN模型推理示例_第1张图片


三、模型推理参考示例

rknn_inference.py

 
 

你可能感兴趣的:(RV1126/RV1109,音视频开发笔记,人工智能,学习,深度学习)