Pytorch TensorRT 安装使用流程

1.安装GPU驱动与Cudnn(注意版本对应)

2.安装TensorRT

安装流程1
安装流程2

3. 权值.pth文件转为Onnx

3.Onnx 文件本地化 .engine 文件(与本机算力有关)

执行命令:

trtexec --onnx=./resnet.onnx --saveEngine=resnet.engine --fp16

需要等待一会,等待安装完成。
配置 trtexec或路径工具创建engine文件
Pytorch TensorRT 安装使用流程_第1张图片
创建完成后,生成对应engine文件
Pytorch TensorRT 安装使用流程_第2张图片

4.加载.engine 文件, 图片预测

你可能感兴趣的:(pytorch,pytorch,python)