【mindspore】【mindspore导出onnx】报类型转换错误

问题描述:

【操作步骤&问题现象】

代码: gitee中的mindspore/models/research/cv/advanced_east/export.py research/cv/advanced_east · MindSpore/models - 码云 - 开源中国 (gitee.com)

ckpt:mindspore hub中获取 MindSpore官网

运行环境: cpu

【截图信息】

【mindspore】【mindspore导出onnx】报类型转换错误_第1张图片

 

解答:

将kernel_size以tuple类型传入ops.Conv2D即可。 原因是model.py部分使用了ops.Conv2D加weight组合的形式,传给Conv2D算子的kernel_size为int64类型, 而ops.Conv2D没有对此整型进行twice操作(nn.Conv2d算子中包含该操作)转换为tuple类型。 这样会导致在执行onnx_exporter.cc中的SetAttrTupleValueToProto代码段时,无法将int64类型映射为ValueTuple类型,auto tuple_ptr = dyn_cast(value);该句得到的是空指针。

你可能感兴趣的:(深度学习,人工智能,python)