pytorch模型转onnx遇到的问题记录

1 . AttributeError: module ‘onnxruntime‘ has no attribute ‘InferenceSession‘

解决方法

2. FAIL : Non-zero status code returned while running Add node.

尝试过很多方法，发现最终是环境问题，重新安装环境即可，注意cuda版本和onnxruntime的对应关系

https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html

我是使用镜像https://hub.docker.com/r/anubisdockerhub/cuda11.0-cudnn8启动容器，再安装1.8版本的onnxruntime-gpu解决该问题的

3. onnxruntime.capi.onnxruntime_pybind11_state.RuntimeException: [ONNXRuntimeError] : 6 : RUNTIME_EXCEPTION : Non-zero status code returned while running Add node. Name:‘Add_9’ Status Message: /onnxruntime_src/onnxruntime/core/providers/cpu/math/element_wise_ops.h:487 void onnxruntime::BroadcastIterator::Append(int64_t, int64_t) axis == 1 || axis == largest was false. Attempting to broadcast an axis by a dimension other than 1. 2 by 3

我出现这个错误是在bert做表征之后，用于命名实体识别，因为是bert是基于sub-word的，所以对最后的输出需要取出每个词最后一个子词对应的表征。在按索引取数时出现这个错误。

解决方法