在使用cuda12 报错Library cublas64_11.dll is not found

因为nvidia的升级基本上都是是CUDA12了,在我发表文章的时候如果去官网下载CUDA包默认安装CUDA版本就是12了.

今天在调用fast-whisper的时候使用GPU报错Library cublas64_11.dll is not found 

model = faster_whisper.WhisperModel(model_size, device="cuda", compute_type="float16")

搞了半天没搞定,最后是去CUDA的安装路径下的bin目录你会看到新版本的cublas64_12.dll复制一个,名字改成cublas64_11.dll,然后一切顺利

还有一个坑在部署cudnn时报错

Could not load library cudnn_cnn_infer64_8.dll. Error code 126

Please make sure cudnn_cnn_infer64_8.dll is in your library path!

需要做如下处理:

官网文档:Installation Guide :: NVIDIA cuDNN Documentation

1: Zlib这个dll要下载下来放到system32文件夹

2:官方文档未更新,在CUDA12版本没有C:\Program Files\NVIDIA\CUDNN\v8.x\bin这个目录你需要复制你下载的cudnn文件到你的CUDA目录下放入对应的同名文件夹,bin,include,lib

2:在系统的环境变量,额外添加你的CUDA12安装目录下的bin,include,lib,libnvvp到环境变量path下,默认安装会给你自动添加两个,另外两个路径需要你手动添加.