windows环境下yolov5使用tensorrt加速,生成engine文件

yolov5自带了export.py文件,用于将pt格式的权重文件转化为其他格式,其中包括'torchscript, onnx, openvino, engine, coreml, saved_model, pb, tflite, edgetpu, tfjs'

生成engine需要安装tensorrt,
具体可参考https://blog.csdn.net/weixin_43917589/article/details/122578198,

安装好之后可使用export.py完成转换。

在我转化过程中遇到了个问题

TensorRT: export failure: [WinError 127] 找不到指定的程序。PyTorch: starting from E:\VisualStudioIDE\AIProject\yolov5\yolov5s.pt with output shape (1, 25200, 85) (14.1 MB)

TensorRT: export failure: [WinError 127] 找不到指定的程序。

之后在githubshang找到了原因
https://github.com/ultralytics/yolov5/issues/10706
解决方案是使用annconda虚拟环境中的cublas64_11.dll文件替换掉cuda环境中的cublas64_11.dll文件。

经过测试发现engine文件确实速度比pt文件快,但精度比不上pt文件。

仅此以记录自己使用tensorrt加速yolov5的过程。

你可能感兴趣的:(教程,python,深度学习,开发语言,人工智能)