onnx cpu c++ 推理无结果

onnx cpu c++ 推理无结果

  • 之前出警告的写法:
  • 现在不出警告的写法:
  • C++ 不出结果的真正原因

先说结论,pytorch生成onnx模型时,使用的动态尺寸的模型,在c++中使用的是CPU推理,加载模型成功,输入数据没有问题,输出结果为空。

解决办法,生成onnx固定尺寸模型。

最奇怪的是 python下onnx推理可以输出正确结果,在c++下就是不能输出结果,最终尝试重新生成固定尺寸的模型解决问题。
现象是python可以使用动态尺寸模型,c++无法使用动态尺寸模型。
其实在生成模型时就有提示信息(pytorch1.9.1)

UserWarning: No names were found for specified dynamic axes of provided input.Automatically generated names will be applied to each dynamic axes of input input
  warnings.warn('No names were found for specified dynamic axes of provided input.

你可能感兴趣的:(onnx,pytorch实践,pytorch)