使用CUDA计算GPU的理论显存带宽

文章目录

  • 一、显存带宽和理论显存带宽
    • 1. 显存带宽
    • 2. 理论显存带宽
      • 1)计算公式
      • 2)举例
  • 二、利用CUDA计算理论显存带宽


一、显存带宽和理论显存带宽

1. 显存带宽

显存带宽是指显存和GPU计算单元之间的数据传输速率

显存带宽越大,意味着数据传输越快,那么GPU整体的计算速度也会越快。所以该指标可以作为我们评估核函数运行速度的评价指标。

使用CUDA计算GPU的理论显存带宽_第1张图片

2. 理论显存带宽

1)计算公式

理论显存带宽由具体硬件所定义。计算公式为:

理论显存带宽 = 显存频率(Hz) * 显存位宽(bit) / 8 * 2    
// 这里除以8是因为位宽的单位是bit,我们要转成 byte
// * 2 是因为 DDR(double data rate)

2)举例

以我的笔记本电脑为例:

GPU型号: NVIDIA GeForce RTX 3050 4GB Laptop GPU
显存频率:7001000 kHz
显存位宽:64 bit

理论显存带宽 = (7001000 * 1000)Hz * (64 / 8)byte * 2 = 112016000000 byte/s ≈ 112 GB/s

与鲁大师的检测结果一致:
使用CUDA计算GPU的理论显存带宽_第2张图片


二、利用CUDA计算理论显存带宽

主要使用到了cudaGetDeviceProperties()函数。该函数用于获取GPU的相关属性信息。

具体代码如下:

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

void CalTheoreticalBandWidth()
{
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);               // 获取设备上的GPU个数

    for (int i = 0; i < deviceCount; ++i) {
        cudaDeviceProp deviceProp;
        cudaGetDeviceProperties(&deviceProp, i);    // 获取当前GPU的相关属性


        std::cout << "GPU: " << i << std::endl;
        std::cout << "Name: " << deviceProp.name << std::endl;
        std::cout << "Bit width: " << deviceProp.memoryBusWidth << " bit" << std::endl;
        std::cout << "Memory clock rate: " << deviceProp.memoryClockRate << " kHz" << std::endl;

        int bw = static_cast<size_t>(deviceProp.memoryClockRate) * 1000 * deviceProp.memoryBusWidth / 8 * 2 / 1000000000;
        
        std::cout << "Theoretical band width = " << bw << " GB/s" << std::endl;
    }
}

运行结果:

GPU: 0
Name: NVIDIA GeForce RTX 3050 4GB Laptop GPU
Bit width: 64 bit
Memory clock rate: 7001000 kHz
Theoretical band width = 112 GB/s

你可能感兴趣的:(c++,GPU,CUDA)