30OPENVINO advanced cource 4 数据精度对推理性能的影响

数据精度对推理性能的影响

初始化环境

#定义OV目录

export OV=/opt/intel/openvino_2021/

#定义工作目录

export WD=~/OV-300/04/

#初始化OpenVINO

source $OV/bin/setupvars.sh

编译示例

#一键编译OpenVINO中的C++ sample

source $OV/inference_engine/samples/cpp/build_samples.sh

开始实验

开始实验：

cd $WD

将刚才编译完成的benchmark_app 复制到当前文件夹：

cp /home/dc2-user/inference_engine_04_samples_build/intel64/Release/benchmark_app $WD

下载模型

python3 $OV/deployment_tools/tools/model_downloader/downloader.py --name face-detection-adas-0001 -o $WD

进行不同精度的模型性能测试

./benchmark_app -m intel/face-detection-adas-0001/FP32/face-detection-adas-0001.xml

./benchmark_app -m intel/face-detection-adas-0001/FP16/face-detection-adas-0001.xml

./benchmark_app -m intel/face-detection-adas-0001/FP16-INT8/face-detection-adas-0001.xml

比较不同精度的模型性能，以及模型的推理延迟或者是读取网络的时间…看看有什么不一样。

挑战任务

请输入：

./benchmark_app -help

以获得更多benchmark_app 的可评估参数。

请尝试设置不同的参数：

number of streams (-nstreams)

batch size (-b)

number of inderence request (-nireq)

number of threads (-nthreads)

例如：./benchmark_app -m intel/face-detection-adas-0001/FP32/face-detection-adas-0001.xml -b 2 -nireq 2 -nthreads 4

来获取当前设备的最佳性能