使用tensorflow自带的工具进行直接8bit量化

首先可以使用docker安装一个最新的cpu版本的tensorflow

docker pull tensorflow/tensorflow:latest

1.  bazel安装见博客。

2. 在github上下载tensorflow-master的源代码并unzip
    cd tensorflow-master

3.编译工具

  由于新版的tensorflow代码有了变化，旧版的tensorflow以前的命令就变成了

bazel build tensorflow/tools/quantization:quantize_graph

这句话会执行一段时间，貌似在编译，将近半个小时，请耐心等待。

4. 执行命令

   下载http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz并解压到tmp中

bazel-bin/tensorflow/tools/quantization/quantize_graph \
--input=./tmp/classify_image_graph_def.pb \
--output_node_names="softmax" --output=./tmp/quantized_graph.pb \
--mode=eightbit

就会看到模型大小变成了原来的1/4。

但这中量化会使准确率下降，我们可以通过训练的方式让他训练中量化。

[1] 【TensorFlow】quantization量化

[2] bazel初步

----------------------------------------------------------------------