MIGraphX推理框架第九章-调试MIGraphX

目录

    • 查看每个节点的输出结果
    • 查看MIGraphX版本

在实际使用的过程中,有的时候会发现推理的结果和预期的结果不同或者想查看模型推理过程中的中间输出结果,这个时候就需要使用调试功能了。

第八章介绍了MIGraphX的动态Shape,可以在此跳转进行 回顾

查看每个节点的输出结果

要想输出每条指令的输出结果,需要设置环境变量:export MIGRAPHX_TRACE_EVAL=2

运行程序之后可以得到类似下面格式的输出:

Run instruction: main:@151 = gpu::add(main:@147,main:@150,main:@149) ->
float_type, {8, 6, 4, 96}, {2304, 384, 96, 1}
Time: 0.008117ms, 0.160552ms
Output has normal
Output: 0.932655, 0.78008, 0.455646, 0.490867, 0.500787, ..., -1.57317, -1.5806,
-1.59469, -1.48618, -1.80712

第一行Run instruction:后面表示指令,最后一行Output:后面的数值就是该指令的输出结果,为了方便查看,只显示结果中的最前面5个数值和最后面5个数值

查看MIGraphX版本

当推理结果不对的时候,也有可能是MIGraphX不同版本之间的计算差异,可以通过如下命令查看MIGraphX版本:/opt/dtk/bin/migraphx-driver --version
MIGraphX推理框架第九章-调试MIGraphX_第1张图片

你可能感兴趣的:(#,MIGraphX推理框架,性能优化,人工智能,深度学习,c++,python)