OpenCV4.2 版本 DNN模块使用CUDA加速教程 VS2017 Window10

软件及开源库

OpenCV 4.2

OpenCV 4.2 contrib

CUDA

根据自己的GPU 选择合适的版本，我的是RTX2080Ti，选择CUDA10.0版本，按照默认地址安装就好，安装完之后看是否有环境变量。没有的话自己加上。

以及，

cuDNN

cuDNN一定要7.5版本以上，否则CMake将无法识别出cuDNN路径。
打开下载好的cuDNN，如下图，
将cuDNN中bin、include、lib文件夹中的文件放入对应CUDA路径下的文件夹中，

CMake

CMake版本不适宜太低，也不要过高，推荐3.14版本，亲测。

开始编译

打开CMake，选择源码路径，以及生成路径，选择对应VS版本。开始第一次Configue。
其中会下载一些第三方文件，可以自行下载，否则速度较慢。第一次configure完成之后，勾选BUILD_opencv_world.
以及，勾选OPENCV_DNN_CUDA，选择解压好的opencv_contrib中modules路径添加进来。

勾选WITH_CUDA。

进行第二次Configure，Configure完成之后可能会报错，此时不管他，根据GPU算力表选择合适的CUDA_ARCH_BIN值，如我的是RTX2080Ti，则将CUDA_ARCH_BIN其余值删除，只留下7.5。然后勾选CUDA_FAST_MATH，点击Configure。


等待Configure完成之后，查看是否检测到了CUDA和cuDNN，都出现YES之后，说明没有问题。这边是一个坑，需要注意，如果没有检测到的话，需要确认是否CUDA和cuDNN版本正确，否则后面的编译将不会编译CUDA模块，白白浪费时间。确认之后，点击Generate。
点击Open Project打开工程，在Release模式下右键点击ALL_BUILD，生成，时间较长。

生成之后，右击INSTALL->仅用于项目->仅生成INSTALL。

到这边就编译好了，Debug版本同理。

开始测试

添加环境变量。

在测试代码中配置包含目录和库目录，添加附加依赖项，opencv_world420.lib.。



由于项目的关系，代码就不贴出来了，官方提供了一份代码示例。

在我自己的项目上运行，首先是CPU版本（I9-9900K），推理时间在22.45ms。

CUDA版本（RTX 2080Ti），推理时间是2.16ms。提升了10倍左右。

顺便贴一个OpenVINO推理引擎的运行效率，大概是8.17ms左右，配置方法可以看我的这篇博客。

总结

1. opencv和opencv_contrib版本要对应
2. 在下载部分第三方库时也要找好对应版本。
3. 勾选WITH_CUDA 、OPENCV_DNN_CUDA。
4. 一定要查看cuDNN版本是否正确，否则几个小时的编译将是浪费时间。
5. 最好使用VS2017版本，VS2015测试出现异常，编译失败。