解决Docker + Tensorflow serving启动服务时占用所有GPU

Docker + Tensorflow serving启动服务  官网命令如下

docker run -p 8503:8501 -t $USER/resnet_serving   
 
后会将所有占用剩余的GPU ,但实际只需使用一个 

启动命令中加入红色部分

docker run -p 8503:8501 --name tfserving-resnet  -e NVIDIA_VISIBLE_DEVICES=0  -t $USER/resnet_serving

相关TFSering和docker

参考官网 https://github.com/tensorflow/serving/blob/master/tensorflow_serving/g3doc/docker.md

   https://segmentfault.com/a/1190000018378850?utm_source=tag-newest

你可能感兴趣的:(Tensorflow)