trtis、ONNX、ONNX Runtime的版本关系及简介

ONNX简介

Open Neural Network Exchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移（一般用于中间部署阶段）。
目前官方支持加载ONNX模型并进行推理的深度学习框架有： Caffe2, PyTorch, MXNet，ML.NET，TensorRT 和 Microsoft CNTK，并且 TensorFlow 也非官方的支持ONNX。

ONNX Runtime简介

ONNX Runtime是将 ONNX 模型部署到生产环境的跨平台高性能运行引擎。
适用于 Linux、Windows 和 Mac。编写C++，它还具有 C、Python 和C# api。 ONNX 运行时为所有 ONNX 规范提供支持，并与不同硬件（如 TensorRT 上的 NVidia Gpu）上的加速器集成

TRTIS镜像与各软件版本关系矩阵

container images	NVIDIA TensorRT Inference Server	TensorFlow	Caffe2	ONNX Runtime	PyTorch
19.03	1.0.0	1.13.1	0.8.2	-	-
19.04	1.1.0	1.13.1	0.8.2	-	-
19.05	1.2.0	1.13.1	0.8.2	-	-
19.06	1.3.0	1.13.1	0.8.2	0.4.0	-
19.07	1.4.0	1.14.0	0.8.2	0.4.0	-
19.08	1.5.0	1.14.0	-	0.4.0	1.2.0a0
19.09	1.6.0	1.14.0	-	0.4.0	1.2.0
19.10	1.7.0	1.14.0	-	0.4.0	1.3.0

ONNX Runtime与ONNX版本关系矩阵

ONNX Runtime 发行版本	ONNX发布版本	ONNX opset版本	ONNX ML opset版本	支持的ONNX IR版本
1.0.0	1.6向下兼容1.2	11	2	6
0.5.0	1.5向下兼容1.2	10	1	5
0.4.0	1.5向下兼容1.2	10	1	5
0.3.1 0.3.0	1.4向下兼容1.2	9	1	3
0.2.1 0.2.0	1.3向下兼容1.2	8	1	3
0.1.5 0.1.4	1.3向下兼容1.2	8	1	3

资料链接：
1）trtis支持的版本信息
2）ONNX Runtime 与 ONNX 版本关系
3）ONNX简介.