ncnn神经网络计算框架在香橙派OrangePi 3 LTS开发板中的使用介绍

 

1、 腾讯 ncnn 源码下载命令如下所示 
1） 第一种方法：下载 Orang Pi 百度云盘中提供的 ncnn.tar.gz 压缩包 
a) 从下面的百度云盘链接可以下载 ncnn.tar.gz 源码压缩包。进入 ncnn 文 件夹中就能看到 

b) 下载完 ncnn.tar.gz 压缩包后，首先将 ncnn.tar.gz 上传到开发板 linux 系 统中 
c) 然后使用下面的命令解压 ncnn.tar.gz  

2） 第二种方法：使用 git 命令直接下载源码，但是如果不会解决开发板访问 github 的问题，是很难下载成功的。如果访问 github 没有问题，建议使用这 种方法，因为这种方式可以保证代码是最新的。 

 

2、然后安装依赖包

3、然后开始编译，ncnn 编译命令如下所示 

说明：在没有任何散热措施的情况下，在开发板上直接编译 ncnn 大约需要 15 分钟， 请耐心等待编译完成。如果有加风扇来给开发板降温，速度应该会更快些。

4、ncnn 中有一些测试示例，比如 squeezenet 测试命令和结果如下所示 

 

5、benchncnn 可以用来测试神经网络的推理性能，测试方法如下所示 
1） 编译生成的 benchncnn 可执行文件在如下路径中，注意下面的命令执行路 径为 ncnn 源码的顶层目录

2） 首先需要将 benchncnn 复制到 benchmark 目录中 

3） benchncnn 的使用方法如下所示 

4） benchncnn 使用 cpu 测试结果如下所示 

a) Debian Bullseye Linux5.16 服务器版本系统测试结果 

6、NanoDet 是一个速度超快和轻量级的移动端 Anchor-free 目标检测模型。测试方 法如下所示 
1）编译生成的 nanodet 可执行文件在如下路径中，注意下面的命令执行路径为 ncnn 源码上一级目录 

2） 首先新建一个 nanodet_demo 的文件夹 

3） 然后将编译生成的 nanodet 可执行程序复制到 nanodet_demo 文件夹中 

4）然后需要下载 nanodet 模型文件并上传到 nanodet_demo 文件夹中 
a) nanodet 模型文件下载地址如下所示  

b) 打开上面的链接，找 nanodet_m.bin 和 nanodet_m.param 这两个文件， 然后下载下来，再上传到开发板 Linux 系统的 nanodet_demo 文件夹中  

c) 此时 nanodet_demo 文件夹中应该有了下面的三个文件 

5）然后还需要将想检测的图片放在 nanodet_demo 文件夹中，比如下面这张有 很多车的图片(可以使用手机拍几张车流或者动物的图片) 

6） 然后运行下面的命令就可以使用 nanodet 进行目标检测，car.jpg 请替换成 你的图片的名字

7）检测完成的结果会保存在名为 image.png 的图片中 

8） 如果使用的是桌面版的 Linux 系统，可以直接打开 image.png 查看，如果使 用的是服务器版本的 Linux 系统，可以将 image.png 拷贝到电脑中查看， image.png 内容如下图所示，可以看到识别到的物体左上角会显示物体的种 类和可信度的百分比 

7、为了方便测试benchncnn和 nanodet，我整理了一份只包含benchncnn和 nanodet的可执行文件以及测试需要的模型文件打包成一个 ncnn_test_demo.tar.gz 压缩包放 在百度云盘上面了，不需要下载编译 ncnn 的源码，使用这份可执行程序就可以直 接开始测试了

1）从下面的百度云盘链接可以下载 ncnn_test_demo.tar.gz 压缩包。进入 ncnn 文件夹中就能看到 

2）下载完 ncnn_test_demo.tar.gz 压缩包后，首先将 ncnn_test_demo.tar.gz 压 缩包上传到开发板 linux 系统中

3）然后使用下面的命令解压 ncnn_test_demo.tar.gz 

4） 解压后进入 ncnn_test_demo 目录可以看到其中包含 benchncnn_demo 和 nanodet_demo 两个子文件夹，它们分别用来测试 benchncnn 和 nanodet 

5） 进入 benchncnn_demo 文件夹，然后运行./benchncnn 4 $(nproc) 0 -1 这个命 令就可以直接测试神经网络的推理性能 

6）进入 nanodet_demo 文件夹，然后运行./nanodet car.jpg 这个命令就可以直 接使用 nanodet 来检测 car.jpg 图片中的物体了，你也可以将想要检测的图 片放在 nanodet_demo 文件夹中，然后使用 nanodet 来检测