深度学习部署·OpenVINO Toolkit——安装与配置
OpenVINO™ Toolkit 安装与配置
简介
OPENVINO是英特尔Intel推出的一款全面的工具套件，用于快速部署应用和解决方案，支持计算机视觉的CNN网络结构超过150余种。
对于AI工作负载来说，OpenVINO提供了深度学习推理套件（DLDT)，该套件可以将各种开源框架训练好的模型进行线上部署，除此之外，还包含了图片处理工具包OpenCV，视频处理工具包Media SDK，用于处理图像视频解码，前处理和推理结果后处理等。
在做推理的时候，大多数情况需要前处理和后处理：
-
前处理：如图像矩阵通道变换，Resize，取均值，归一化，等
-
后处理：推理后，将检测框等特征叠加至原图等
都可以使用OpenVINO工具套件里的API接口完成。
原理
核心组件
下载OpenVINO™ Toolkit
安装
本人环境：Ubuntu20.04 LTS，因此选择Linux操作系统，离线下载方式
填上邮箱地址与国家地区，便会下载文件。
终端键入到下载组件的目录，解压.tgz文件并进入解压后的文件夹
tar -xvzf l_openvino_toolkit_p_<version>.tgz
cd l_openvino_toolkit_p_<version>
选择安装选项并以 root 身份运行相关脚本，以使用图形用户界面 (GUI) 安装向导或命令行指令 (CLI)。
注意：需要以根权限运行安装脚本，才能将openvino安装至根目录的opt文件夹下
选项 1: GUI 安装向导:
sudo ./install_GUI.sh
选项 2: 命令行安装向导:
sudo ./install.sh
选项 3: 命令行静默指令安装:
sudo sed -i 's/decline/accept/g' silent.cfg
sudo ./install.sh -s silent.cfg
本人选择GUI窗口安装方式，一直点击Next默认安装即可。
依赖项
接着在安装包或安装路径的install_dependencies 文件夹中运行
cd <installation_DIR>/intel/openvino_2021/install_dependencies
# 运行脚本以下载并安装外部软件依赖项
sudo -E ./install_openvino_dependencies.sh
环境
vi ~ /.bashrc
[or]
gedit ~/.bashrc
将此行添加到文件末尾：
source <installation_path>/openvino_2021/bin/setupvars.sh
这样便可以永久设置环境变量，之后卸载openvino时删除该行即可
每次打开终端时都会出现OPENVINO环境初始化
[setupvars.sh] OpenVINO environment initialized
模型优化器
模型优化器是一个基于 Python* 的命令行工具，用于从流行的深度学习框架（例如 Caffe*、TensorFlow*、Apache MXNet*、ONNX* 和 Kaldi*）导入经过训练的模型。
cd <installation_path>/openvino_2021/deployment_tools/model_optimizer/install_prerequisites
# 运行脚本为 Caffe、TensorFlow 2.x、MXNet、Kaldi 和 ONNX 配置模型优化器：
sudo ./install_prerequisites.sh
(Optional)非 CPU 设备上配置推理
仅当要启用工具包组件以在系统上使用处理器图形 (GPU) 时，才需要执行本节中的步骤
cd <installation_path>/intel/openvino_2021/install_dependencies /
sudo -E ./install_NEO_OCL_driver.sh
参考资料
OpenVINO推理简介
OpenVINO™_使用指南