tensorRT的使用笔记!

几个重要概念

binding:

描述engine的输入输出端口。其实就是对输入输出端口的tensor描述其大小等信息。我们用cudaMalloc()函数为engine申请输入输出buff的时候需要查询使用这些信息。

你可能感兴趣的:(机器学习)