华为昇腾AI处理器,atc模型转换和推理过程,华为的CANN库对标的是NVIDIA的cuda,所以在华为昇腾AI处理器上安装了CANN后,就可以直接使用pytorch了,以及推理框架(参考学习)
1,模型转换atc模型转换模型转换如图参考链接如下:https://toscode.mulanos.cn/ascend/samples/tree/master/inference/modelInference/sampleResnetQuickStart/cpp2,推理运行,这里需要注意用到了infer,有点类似的pytorch对模型的加载使用model=InferSession(0,model_