TensorRT【推理Error】---expecting compute 6.1 got compute 7.5, please rebuild

一、错误描述

ERROR: INVALID_CONFIG: The engine plan file is generated on an incompatible device, 
expecting compute 6.1 got compute 7.5, please rebuild. 

二、错误分析

  • 错误产生的原因:
    将本地生成的TensorRT模型迁移到线上之后,推理过程中的报错

  • 为什么会产生该错误?
    本地机器上的GPU与线上机器的GPU版本不一致,导致的加速版本不一致。

三、解决策略

在线上重新进行TensorRT模型的转换

你可能感兴趣的:(TensorRT,模型推理)