tf servering 的笔记

两步走  

docker run -it -p 8500:8500 tensorflow/serving:latest-devel
tensorflow_model_server --rest_api_port=8501 --model_name=mnist --model_base_path=/export
访问：
1.前面一步 只是映射了8500  所以8500(grpc)端口所有IP都能访问; 8501(rest)没有做映射只有dockerip能访问。
2.容器中8500是默认的 8501并不是默认开启 这两者并不是不能更改，已验证。
3.因为映射的端口都是8500，所以8500端口 所有ip都能访问，如果映射是9500:8500，那localhost 和 hostip只能访问9500
4.dockerip 只能访问docker内部的端口8500 

一步式
sudo docker run -p 9500:8500 -p:9501:8501 --mount type=bind,s
ource=/home/user/document/model_deployment/model_deployment-master/tensorflow_serving/export/,target=/models/my_model -e MODEL_NAME=mnist -t tensorflow/serving:latest-devel

 

 

docker的一些命令
查看现有的镜像  sudo docker images

查看已启动容器  sudo  docker ps

关闭已启动容器  sudo docker stop id

进入容器 sudo docker run -it -p 8500:8500 tensorflow/serving:latest-devel

开启tf servering  sudo docker cp /home/user/docker/tensorflow-mnist/mnist_tfserg_model   bafaaaa573b4:/
退出后之前镜像的保存就没有了 可以通过构建镜像
构建镜像  sudo docker commit 614122c0aabb tensorflow/models

进入构建的镜像   sudo docker run -it -p 8500:8500 tensorflow/models

查看docker信息：cat /etc/hosts