将keras的模型转化为onnx模型

ONNX模型(开放神经网络交换), 是一种用于表示深度学习模型的开放格式。ONNX可以获得很多框架的支持。您可以使用任何选定的框架来设计、训练和部署深度学习模型。ONNX 模型的好处是，它们可以在框架之间轻松移动。
我们经常使用keras训练一些模型,考虑到不同框架之间的转换和移动,可以考虑采用 onnx模型作为中建模型.
我们使用keras2onnx工具实现这个转换过程.

1. 安装

您可以从PyPi安装Keras2ONNX的最新版本：由于某些原因，软件包的发布已暂停，请从源代码进行安装，并且tensorflow 2.x上对keras或tf.keras的支持仅在源代码中可用。
安装使用pip install keras2onnx
或从源代码安装：
pip install -U git + https：//github.com/microsoft/onnxconverter-common
pip install -U git + https：//github.com/onnx/keras-onnx
在运行转换器之前，请注意，必须在python环境中安装tensorflow，您可以选择tensorflow / tensorflow-cpu软件包（CPU版本）或tensorflow-gpu（GPU版本）

Keras2ONNX依赖于onnxconverter-common。 实际上，此转换器的最新代码需要onnxconverter-common的最新版本，因此，如果从源代码安装此转换器，请在安装keras2onnx之前以源代码模式安装onnxconverter-common。

通过调用keras2onnx.convert_keras可以成功转换大多数Keras模型，包括CV，GAN，NLP，Speech。 但是，某些具有许多自定义操作的模型需要自定义转换，以下是一些示例，例如YOLOv3和Mask RCNN。

2.代码示例

代码1:

import keras
import keras2onnx
import onnx
from keras.models import load_model
model = load_model('./model/mymodel5.h5')  
onnx_model = keras2onnx.convert_keras(model, model.name)
temp_model_file = './model/mymodel.onnx'
onnx.save_model(onnx_model, temp_model_file)

代码2

import keras2onnx
keras2onnx.convert_keras(model, name=None, doc_string='', target_opset=None, channel_first_inputs=None):
    # type: (keras.Model, str, str, int, []) -> onnx.ModelProto
    """
    :param model: keras model
    :param name: the converted onnx model internal name
    :param doc_string:
    :param target_opset:
    :param channel_first_inputs: A list of channel first input.
    :return:
    """
import numpy as np
from keras.preprocessing import image
from keras.applications.resnet50 import preprocess_input
import keras2onnx
import onnxruntime

# image preprocessing
img_path = 'street.jpg'   # make sure the image is in img_path
img_size = 224
img = image.load_img(img_path, target_size=(img_size, img_size))
x = image.img_to_array(img)
x = np.expand_dims(x, axis=0)
x = preprocess_input(x)

# load keras model
from keras.applications.resnet50 import ResNet50
model = ResNet50(include_top=True, weights='imagenet')

# convert to onnx model
onnx_model = keras2onnx.convert_keras(model, model.name)

# runtime prediction
content = onnx_model.SerializeToString()
sess = onnxruntime.InferenceSession(content)
x = x if isinstance(x, list) else [x]
feed = dict([(input.name, x[n]) for n, input in enumerate(sess.get_inputs())])
pred_onnx = sess.run(None, feed)

temp_model_file = 'model.onnx'
keras2onnx.save_model(onnx_model, temp_model_file)
sess = onnxruntime.InferenceSession(temp_model_file)