MIGraphX

MIGraphX推理框架第二章-编程模型

第一章介绍了简介，可以在此跳转进行回顾shape用来表示数据的形状。可以通过如下方式构造一个shape对象：shape(type_tt,std::vectorl);shape(type_tt,std::vectorl,std::vectors);其中：t：shape的类型，shape支持的类型包括：bool_type,half_type,float_type,double_type,uint8_t
染念·2023-11-19 20:46

MIGraphX推理框架第八章-动态Shape

第七章介绍了MIGraphX的性能优化，可以在此跳转进行回顾第八章-动态Shape动态shape动态shape的限制支持动态Shape的模型不支持动态shape的解决方案动态shape在实际业务中，我们会遇到有多种输入
染念·2023-11-19 20:45

MIGraphX推理框架第九章-调试MIGraphX

目录查看每个节点的输出结果查看MIGraphX版本在实际使用的过程中，有的时候会发现推理的结果和预期的结果不同或者想查看模型推理过程中的中间输出结果，这个时候就需要使用调试功能了。
染念·2023-11-19 20:45

MIGraphX推理框架第十章-MIGraphX常见问题

目录模型转换问题onnx的upsample算子与pytorch不等价batchnorm参数不固定问题模型转换问题onnx的upsample算子与pytorch不等价解决方法：1）更新pytorch；2）导出onnx模型时，设置opset_version>=11，代码如下：torch.onnx.export(model,input,filename,verbose=False,opset_versi
染念·2023-11-19 20:45

MIGraphX推理框架第七章-性能分析

第五章介绍了MIGraphX的模型序列化，可以在此跳转进行回顾性能分析工具migraphx-drivermigraphx提供了性能分析工具migraphx-driver，该工具在migraphx安装目录下的
染念·2023-11-19 20:15

MIGraphX框架解析

前言之前写过TNN框架解析，其实早在TNN之前我就研究过AMD开源的推理框架MIGraphX，MIGraphX的架构跟TNN完全不同，TNN其实还是受到Caffe的影响比较大，里面很多方面的设计都有Caffe
qianqing13579·2022-12-26 08:42
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他