使用tensorrt自带的trtexec将onnx模型转换为trt模型

1.在官网下载好tensorrt，进入bin目录。（注意：在ubuntu上需要加上sudo,使用管理员权限。）

运行如下模型转换命令：

sudo ./trtexec --onnx=model_res512672_best.onnx --saveEngine=model_res512672_best.trt --workspace=1024 --iterations=1 --verbose

--workspace = 1024  以兆字节为单位设置工作区大小（默认 = 16）

--iterations  = 1 运行至少 N 次推理迭代（默认 = 10）

--verbose  使用详细日志记录 (默认 = false)

（注意：设置--workspace时需要先查看系统可用的内存。）

结果1：如果报错。需要尝试在/tensorrt/bin 目录下添加几个动态链接库。

例如在windows上：

加上：myelin64_1.dll；nvinfer.dll；nvinfer_plugin.dll；nvonnxparser.dll；nvparsers.dll。