MNN学习笔记(七):修改ONNX的resize算子转换器

一、需求

最近在转换一个超分模型的时候,对应动态输入需要让模型自动推理当前层的尺度,但是Resize层在转MNN的时候,参数已经被写死,转换成功的模型没办法去自适应的匹配当前图像输入大小,超分模型的输出与预期不一致。

二、处理流程

2.1 初步定位

首先用MNN的官方工具MNNV2Basic.out,具体用法可以参考资料[1],打印出每一层的输入和输出, 然后观察输入输出的文件大小变化,可以看到第56层的输入从1615k跳变成了1k,初步断定是第56层出了问题;

MNN学习笔记(七):修改ONNX的resize算子转换器_第1张图片

2.2 再次确认

用Netron打开MNN模型文件可以看到,Interp文件的outputWidth和OutputHeight写死了,都是40,而不是采用设置widthScale和heightScale方式,因此这一层不会动态计算Size,最终导致输出层产生和预期不一致的结果。

MNN学习笔记(七):修改ONNX的resize算子转换器_第2张图片

2.3 转换器代码查询

初略读了一下ONNX的模型转换器,大致流程如下:

MNN学习笔记(七):修改ONNX的resize算子转换器_第3张图片

具体代码解读,可以参考参考资料[2],每一个ONNX的OP对应于一个MNNOP转换器,resize对应OpConverter位于MNN/tools/converter/source/optimizer/onnxextra/OnnxUpsample.cpp中,注销掉outputWidth进而outputHeight参数,设置widthScale进而heightScale参数,

// resizeParam->outputHeight = sizesDataPtr[2];
// resizeParam->outputWidth  = sizesDataPtr[3];
resizeParam->widthScale = 2.0f;
resizeParam->heightScale = 2.0f;

重新编译转换器,进行模型转换即可。

三、总结

首先,总的来说,改动代码也就几行,整个流程最主要的难点在于如何去定位问题,怎么去查找应该去修改哪一块代码,前期的工作量占用了整个工作的99.99%的时间;然后,对于正在使用的库或工具,我们除了要知道基本用法之外,在精力允许的前提下,可以去深入一点地了解更加底层一点的东西;最后,MNN代码真心不错,强烈安利大家读一读,真的收获很多,比如,定时工具、线程工具、CMakeLIstst文件写法、文件查询工具、工程如何构建、内存如何管理等等。

四、参考资料:

[1] https://www.yuque.com/mnn/cn/tool_test

[2] https://zhuanlan.zhihu.com/p/124295758

 

你可能感兴趣的:(MNN)