TensorRT 官方教程学习

一、TRT ONNX PARSER

1 针对trt onnx parser不支持的ops,可以采用以下两种方式,第二种方式需要

TensorRT 官方教程学习_第1张图片

2 添加新的解析函数,用TRT已有的函数插入

TensorRT 官方教程学习_第2张图片

3 TRT原生kernel 执行效率过低

TensorRT 官方教程学习_第3张图片

4 在不同的条件下选择不同的kernel,推荐第一个

TensorRT 官方教程学习_第4张图片

 

TensorRT 官方教程学习_第5张图片

 

TensorRT 官方教程学习_第6张图片

二 onnx parser 优化

onnx GraphSurgeon 修改onnx

TensorRT 官方教程学习_第7张图片

TensorRT 官方教程学习_第8张图片

2.2 图优化

TensorRT 官方教程学习_第9张图片

你可能感兴趣的:(自动驾驶,神经网络,机器学习)