Win10下基于Docker使用tensorflow serving部署模型

windows就是更坑

安装Docker for Windows

1. 前提:Docker for Windows需要带有Hyper-V的64位Windows 10 Pro,如果您的系统不符合运行Docker for Windows的要求，则可以安装 Docker Toolbox，它使用Oracle Virtual Box而不是Hyper-V。【注：我的是win10专业版1709，Docker现在可以使用Hyper-V技术在Windows上运行Linux容器（LCOW）。】
   点击查看详情页
2. 打开Hyper-V服务：手动配置还是挺麻烦，可以通过Docker for Windows安装程序来启用Hyper-V，然后计算机会自动重启
3. 等待docker小鲸鱼图标停止“喷水”——docker is starting或者docker is switching，成功后会是这样：
   
4. 启动docker：建议使用powershell启动；
   
   • win+R，输入powershell
   • 运行一下命令验证安装：docker –version、docker-compose –version、docker-machine –version、docker version
     
     
   • 关闭自动更新与开机自启：小图标右键：settings
     
   • 查看更详细的初步教程
   • 或者这篇博客

tensorflow serving on docker

1.先克隆到本地：(我是用的git bash，也可以直接在powershell中执行命令)【一开始我是在powershell中clone的，但是发觉速度太慢，并且还失败了】

git clone –recurse https://github.com/tensorflow/serving.git（如果克隆库的时候要带上子模块，请加上 –recursive 参数）
再次进入powershell：cd serving

我这下载完成后有1.1个G

2.使用docker创建容器（会下载很多依赖，bazel, grpc。这也是使用容器的原因，手动通过源代码构建太麻烦）【bazel是谷歌的构建工具blaze的开源版】

docker build –pull -t tensorflow-serving-devel -f tensorflow_serving/tools/docker/Dockerfile.devel .

// 3.运行上面创建的容器（会进入对应的终端）:

docker run –name=tensorflow_container -it $USER/tensorflow-serving-devel【–name参数的值可以改，但是要记住了，之后在web端或者APP端会用到】

// 4.在容器中再次clone：

git clone –recurse https://github.com/tensorflow/serving.git
cd serving/tensorflow
./configure

// 5.选择你要安装的“组件”：

报错及解决：

invalid argument “/tensorflow-serving-devel” for t: invalid reference format:
我认为这是使用windows造成的，去掉 docker build –pull -t $USER/tensorflow-serving-devel -f tensorflow_serving/tools/docker/Dockerfile.devel .中的 user
no matching manifest for windows/amd64 in the manifest list entries:暂时没能解决

参考：

1. YouTube
2. 上方视频的文件资料
3. https://weiminwang.blog/2017/09/12/introductory-guide-to-tensorflow-serving/
4. https://towardsdatascience.com/how-to-deploy-machine-learning-models-with-tensorflow-part-2-containerize-it-db0ad7ca35a7
5. https://www.tensorflow.org/serving/