OpenCV+CUDA入门教程之二---GPU模块简介

目录

一、概括信息

二、针对不同GPU架构的编译选项

三、多GPU支持

---

一、概括信息

OpenCV的GPU模块是一组利用GPU计算功能的类和函数。 它使用NVIDIA公司的CUDA API实现，仅支持NVIDIA GPU。 OpenCV GPU模块包括工具函数，和高级算法。工具函数函数和低级视觉函数为开发利用GPU的快速视觉算法提供了强大的基础，而高级算法包括一些最先进的算法（人脸和人体检测器等） 。

OpenCV GPU模块易于使用，不需要任何CUDA知识，但是CUDA知识对于处理不是一般的算法或实现最高性能算法肯定是有用的。GPU模块是快速实现GPU加速计算机视觉算法的有效工具。但是，如果你的算法涉及许多简单的操作，那么为了获得最佳性能，可能仍需要编写自己的CUDA内核以避免对中间结果进行额外的写入和读取操作。

要启用CUDA支持，在使用cmake编译OpenCV时，应加上WITH_CUDA = ON这个选项。如果不启用CUDA模块，GPU模块仍然构建，但在运行时，模块中的所有函数都抛出异常，并带有CV_GpuNotSupported错误代码，但 getCudaEnabledDeviceCount()除外。因此，使用gpu :: getCudaEnabledDeviceCount()函数(返回支持CUDA的GPU数)，你可以根据上述函数的返回值选择使用主机端的函数还是GPU模块的函数(使用CPU完成计算还是使用GPU完成计算)。

二、针对不同GPU架构的编译选项

CUDA的编译器可以根据参数生成指定GPU架构的二进制代码（cubin和fatbin）和向后兼容的中间代码（PTX）。 二进制代码通常意味着为特定的GPU架构和生成，因此无法保证与其他GPU架构的兼容性。 PTX是中间层代码，GPU载入PTX文件之后，再编译成自己的架构编译成相对应的二进制文件。 新架构的GPU支持低版本的PTX代码，但是一些新的特性不被支持。

在第一次调用GPU模块的函数时，将初始化CUDA环境，并使用JIT编译器将PTX代码编译为特定GPU的二进制代码。 当目标GPU的计算能力(Compute Capability，缩写为CC，是CUDA中的概念)低于PTX代码时，编译会失败。

编译OpenCV时，可通过指定CUDA_ARCH_BIN和CUDA_ARCH_PTX两个参数来控制二进制代码的版本和PTX代码版本。例如-D CUDA_ARCH_BIN =“2.0 3.0 5.0 5.2”  -D CUDA_ARCH_PTX="2.0 3.0 5.0 5.2", 就是启用了CC为2.0、3.0、5.0、5.2的架构支持。CUDA计算能力查询表。附上自己的cmake命令：

cmake -D CMAKE_BUILD_TYPE=RELEASE \
	-D CMAKE_INSTALL_PREFIX=/usr/local/opencv343-cuda90 \
	-D OPENCV_EXTRA_MODULES_PATH=../opencv_contrib-3.4.3/modules \
	-D WITH_LIBV4L=ON \
	-D WITH_CUDA=ON \
	-D ENABLE_FAST_MATH=ON \
	-D CUDA_FAST_MATH=ON \
	-D WITH_CUBLAS=ON \
	-D WITH_NVCUVID=ON \
	-D CUDA_GENERATION=Auto \
	-D WITH_TBB=ON \
	-D WITH_OPENMP=ON \
	-D WITH_OPENGL=ON \
	-D ENABLE_CXX11=ON \
 	-D OPENCV_ENABLE_NONFREE=ON \
	-D ENABLE_PRECOMPILED_HEADERS=OFF ..

可以在运行时确定OpenCV GPU构建的二进制文件（或PTX代码）是否与你的GPU兼容。函数gpu :: DeviceInfo :: isCompatible()返回兼容性（true / false）。

三、多GPU支持

在当前版本中，每个OpenCV GPU算法只能使用一个GPU。因此，要使用多个GPU，必须手动切换GPU。切换GPU可以使用gpu :: setDevice()函数完成。有关详细信息，请阅读Cuda C编程指南。
在为多个GPU开发算法时，请注意数据传递开销。对于基础函数和小图像，它可能很重要，这可能消除了具有多个GPU的所有优点。但对于高级算法，请考虑使用多GPU加速。