跑一个 OpenVINO 的 demo

上周在公司听了 Intel 的代表来介绍他们的 AI 芯片，Spring Hill (NNP-I 1000)，关于这个芯片的资料，具体可以看看这个下面的 PPT。

https://newsroom.intel.com/wp-content/uploads/sites/11/2019/08/Intel-Nervana-NNP-I-HotChips-presentation.pdf

因为 GPU 资源太紧缺了，而线上部署的模型，考虑到算力和延时等因素，都不会太复杂，所以实际场景下做推断，还是大量的 CPU 为主的。鉴于 Intel 代表一直在讲 OpenVINO，而之前我们在部署深度学习的模型经验相对不多，所以没有应用过这个开源库，所以下面就 OpenVINO 的官网 Demo，做一个简单的演示。

The Intel® Distribution of OpenVINO™ toolkit quickly deploys applications and solutions that emulate human vision. Based on Convolutional Neural Networks (CNN), the toolkit extends computer vision (CV) workloads across Intel® hardware, maximizing performance.

OpenVINO是一个用于提升深度学习模型部署性能的跨平台的工具包，安装和使用都非常简单，下面 demo 视频是在 Mac 机器上运行的例子，安装过程在上面的文档链接中，安装主要是需要下载大量深度框架相关的库和模型，以及 Intel 已经封装好的一些脚本。

Demo 大致的过程是下载一个预先训练好的模型，这个模型是用来检测图片车辆的一个模型，然后针对例子中的车的图片，并做 Inference 的过程。

Demo 视频打开下面的链接。

https://vdn1.vzuu.com/SD/cfca3b58-dc5f-11e9-bc32-0a580a41f911.mp4?disable_local_cache=1&bu=com&expiration=1569068425&auth_key=1569068425-0-0-46e149e6abfdf048afa3014bad2c7dd9&f=mp4&v=hw