【TensorRT】TensorRT was linked against cuBLAS/cuBLAS LT 11.3.0 but loaded cuBLAS/cuBLAS LT 11.2.1

问题:

        在使用TensorRT-7.2.3.4.Windows10.x86_64.cuda-11.1.cudnn8.1时,发布模型和推理发布的trt模型时出现警告,并且发现推理速度很慢:

[W] [TRT] TensorRT was linked against cuBLAS/cuBLAS LT 11.3.0 but loaded cuBLAS/cuBLAS LT 11.2.1

【TensorRT】TensorRT was linked against cuBLAS/cuBLAS LT 11.3.0 but loaded cuBLAS/cuBLAS LT 11.2.1_第1张图片

 

原因:

        由于使用的是官方Release版本的TensorRT,因此使用需要同原Release需求环境一致。cublas是CUDA环境里的,笔者安装的环境是CUDA11.1.0,看起来同TensorRT要求的一致,但根据提示看似乎是安装的版本低于编译的版本,继续查看CUDA版本,发现11.1还有个update1版本也即11.1。为了进一步确认环境问题,需要查看TensorRT的Release日志

【TensorRT】TensorRT was linked against cuBLAS/cuBLAS LT 11.3.0 but loaded cuBLAS/cuBLAS LT 11.2.1_第2张图片

在其中找到自己版本7.2.3日志,查看兼容性信息可以看到兼容的版本是11.1 update1而不是11.1。

 【TensorRT】TensorRT was linked against cuBLAS/cuBLAS LT 11.3.0 but loaded cuBLAS/cuBLAS LT 11.2.1_第3张图片

 解决方案:

        安装CUDA11.1.1(即CUDA11.1 update1)

你可能感兴趣的:(AI/ML/DL,cuda,tensorrt)