TensorRT加速pointpillars

刚接触tensorrt加速pointpillars,很感谢https://blog.csdn.net/Small_Munich/article/details/102489147 博客博主的分享,目前已经把环境配置好,并把pfe.onnx和rpn.onnx用tensorrt加载测试成功,
TensorRT加速pointpillars_第1张图片
TensorRT加速pointpillars_第2张图片
目前有几个问题待解决:
1.如何把中间层PointPillarsScatter也转换为onnx,需要写plugin吗?
2.给原网络和onnx网络输入同样的数据,但是原网络rpn层耗时仅8毫秒,而tensorrt耗时17毫秒,pfe部分确实加速很多
3.如果不把PointPillarsScatter层转换为onnx,如何避免多次tensor与numpy之间的转换

请做过的大神指导,关于环境配置以及运行pfe.onnx部分如果有问题也可以互相交流。

你可能感兴趣的:(python,网络,人工智能,深度学习,ubuntu)