4.35 构建onnx结构模型-Layernorm

前言

构建onnx方式通常有两种：
1、通过代码转换成onnx结构，比如pytorch —> onnx
2、通过onnx 自定义结点，图，生成onnx结构

本文主要是简单学习和使用两种不同onnx结构，
下面以 Layernorm 结点进行分析

方式

方法一：pytorch --> onnx

暂缓，主要研究方式二

方法二： onnx

import onnx
from onnx import helper
from onnx import TensorProto

# 创建一个空的ONNX图
graph = helper.make_graph(nodes=[], name='LayerNormalization_Graph', inputs=[], outputs=[])

# 创建LayerNormalization节点的输入参数
input_data = helper.make_tensor_value_info('input_data', TensorProto.FLOAT, [1, 3, 224, 224])  # 输入数据张量的形状为[1, 3, 224, 224]
input_scale = helper.make_tensor_value_info('input_scale', TensorProto.FLOAT, [3])  # 归一化参数scale的形状为[3]
input_bias = helper.make_tensor_value_info('input_bias', TensorProto.FLOAT, [3])  # 归一化参数bias的形状为[3]

epsilon = 1e-5  # 归一化操作中的epsilon参数

graph.input.extend([input_data, input_scale, input_bias])

# 创建LayerNormalization节点
layernorm_node = helper.make_node('LayerNormalization', ['input_data', 'input_scale', 'input_bias'], ['output'], epsilon=epsilon, name='LayerNormalization_Node')  # 创建一个LayerNormalization节点

# 添加LayerNormalization节点到图中
graph.node.extend([layernorm_node])

# 创建LayerNormalization节点的输出参数
output = helper.make_tensor_value_info('output', TensorProto.FLOAT, [1, 3, 224, 224])  # 输出张量形状为[1, 3, 224, 224]
graph.output.extend([output])

# 创建ONNX模型
model = helper.make_model(graph, producer_name='ONNX_LayerNormalization_Example')

# 保存ONNX模型到文件
onnx.save(model, 'layernorm_model.onnx')