【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2

【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2

  • 1 电脑环境
  • 2 问题描述
  • 3 直接原因
  • 4 解决办法
    • 4.1 更新CUDA到对应的tensorRT版本
    • 4.2 更新cudnn到对应的tensorRT版本
      • 4.2.1 在cuda安装目录中更新
      • 4.2.2 (如果继续提示标题所示警告)针对conda安装torch,在anaconda的torch目录中更新
  • 5 查看安装torch、cuda和cudnn版本号

文章指引:Win10 安装 Tensorrt和torch2trt教程

1 电脑环境

系统:Win10
显卡:NVIDIA GeForce RTX 3090
cuda版本:CUDA 11.6.2
python版本:3.9
TensorRT安装版本:8.5.1.7

2 问题描述

在使用TensorRT-8.5.1.7,发布模型和推理发布的trt模型时出现警告,TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2 (类似问题见文章 [1] )

3 直接原因

TensorRT版本与CUDA、cudnn版本不对应。

4 解决办法

4.1 更新CUDA到对应的tensorRT版本

1)官方tensorrt下载链接:点这里
2)tensorrt 8.x.说明文档:点这里

官方tensorrt下载截图,本人选择windows TensorRT 8.5.1.7版本。

【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第1张图片
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第2张图片
cuda选择11.6.2,如下所所示(截图地址)。
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第3张图片

4.2 更新cudnn到对应的tensorRT版本

4.2.1 在cuda安装目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive解压后的三个文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6中。
参考教程:Cuda和cuDNN安装教程(超级详细)[3]
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第4张图片

【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第5张图片

4.2.2 (如果继续提示标题所示警告)针对conda安装torch,在anaconda的torch目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive\bin目录下文件【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第6张图片
复制到目录下:D:\ProgramData\Anaconda3\envs\yolox_resrgan\Lib\site-packages\torch\lib。(说明:yolox_resrgan是本人创建的anaconda虚拟环境)
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第7张图片

5 查看安装torch、cuda和cudnn版本号

import torch
print(torch.version)
print(torch.version.cuda)
print(torch.backends.cudnn.version())
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2_第8张图片

你可能感兴趣的:(深度学习资源及依赖库安装,python,人工智能,深度学习)