【PaddlePaddle】Paddle-Lite一键benchmark测试

测试环境：交叉编译环境Ubuntu16.04

                   Android设备：小米平板 MI PAD 4

                                          MIUI版本：MIUI 10.3.2稳定版

                                          处理器：高通骁龙660 AIE

                                          屏幕尺寸：8英寸

                                          分辨率：1920 x 1200

                                          运行内存：4 GB

                                          机身内存：64 GB

                                          Android版本： 8.1.0

                                          内核版本：4.4.78-perf+

---

1. 安装adb

sudo apt update
sudo apt install -y wget adb

2. Android设备连接电脑

打开设置 -> 开启开发者模式 -> 开启USB调试 -> 允许（授权）当前电脑调试手机。

3. 查看设备

adb devices

4. 一键benchmark

wget -c https://paddle-inference-dist.bj.bcebos.com/PaddleLite/benchmark_0/run_benchmark.sh
sh run_benchmark.sh

（1）run_benchmark.sh脚本会自动下载mnasnet、mobilenetv1/2、shufflenetv2、squeezenet模型并上传至手机。

（2）下载android-armv7和android-armv8的可执行文件，并上传手机。

（3）下载另一个脚本benchmark.sh，并上传手机。

（4）执行benchmark。

（5）从手机下载benchmark结果result_armv7.txt和result_armv8.txt。

下面是两个文件的结果。

result_armv7.txt

PaddleLite Benchmark
Threads=1 Warmup=10 Repeats=30
-- mnasnet               avg = 69.8019 ms
-- mobilenetv1           avg = 111.0950 ms
-- mobilenetv2           avg = 81.3903 ms
-- shufflenetv2          avg = 34.9500 ms
-- squeezenet            avg = 61.8828 ms

Threads=2 Warmup=10 Repeats=30
-- mnasnet               avg = 39.5931 ms
-- mobilenetv1           avg = 60.9474 ms
-- mobilenetv2           avg = 47.0647 ms
-- shufflenetv2          avg = 20.5967 ms
-- squeezenet            avg = 45.3017 ms

Threads=4 Warmup=10 Repeats=30
-- mnasnet               avg = 25.1387 ms
-- mobilenetv1           avg = 35.8682 ms
-- mobilenetv2           avg = 32.5331 ms
-- shufflenetv2          avg = 13.9191 ms
-- squeezenet            avg = 27.6783 ms

result_armv8.txt

PaddleLite Benchmark
Threads=1 Warmup=10 Repeats=30
-- mnasnet               avg = 63.4763 ms
-- mobilenetv1           avg = 102.5460 ms
-- mobilenetv2           avg = 73.1019 ms
-- shufflenetv2          avg = 34.3550 ms
-- squeezenet            avg = 57.1914 ms

Threads=2 Warmup=10 Repeats=30
-- mnasnet               avg = 36.2326 ms
-- mobilenetv1           avg = 53.3984 ms
-- mobilenetv2           avg = 43.0314 ms
-- shufflenetv2          avg = 20.4307 ms
-- squeezenet            avg = 40.1051 ms

Threads=4 Warmup=10 Repeats=30
-- mnasnet               avg = 22.7738 ms
-- mobilenetv1           avg = 30.9118 ms
-- mobilenetv2           avg = 29.4897 ms
-- shufflenetv2          avg = 13.2399 ms
-- squeezenet            avg = 26.1718 ms