cuda学习笔记1

本节目标:
  • 为主机(Host)编写代码和为设备(Device)编写代码的区别
  • 从主机运行设备代码
  • 如何在支持CUDA的设备上使用设备内存
  • 如何查询系统中支持CUDA的设备信息

1. 在GPU设备上执行的函数称为核函数,NVIDIA工具使用CUDA C编写核函数,CUDA C为标准C增加 global 修饰符,这个修饰符将告诉编译器,函数应该编译为设备而不是主机运行。具有该修饰符的函数将作为核函数交给CUDA编译器编译。
2.从主机运行设备代码,如下所示:
cudaError_t err = cudaSuccess;
    ////参数传递
    int c;
    int *dev_c;
    err = cudaMalloc((void**)&dev_c, sizeof(int));
    add_kernel << <1, 1 >> > (2, 7, dev_c); ////核函数处理
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to allocate device value dev_c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    err = cudaMemcpy(&c, dev_c, sizeof(int), cudaMemcpyDeviceToHost); ////主机代码中,不能对cudaMalloc()返回的指针进行读取,写入内存操作(即不可修改),但可以作参数传递,执行算术运算。
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to copy device value dev_c to c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    printf("2+7=%d\n", c);
    cudaFree(dev_c); ////不可使用free(),因为在主机代码中不可修改该内存的值  ,  总的来说,主机指针只能访问主机代码的内存,设备指针只能访问设备代码的内存

从主机运行设备代码,以下几点值得注意:
1.可以像调用C函数那样将参数传递给核函数
2.当设备执行任何有用操作时,都需要分配内存,例如将计算值返回主机。
3.使用设备内存:关于cudaMalloc()分配到的指针dev_c.
可以将dev_c传递给设备上执行的函数。可以在设备代码中使用dev_c进行内存读/写操作(修改该内存的值)。可以可以将dev_c传递给主机上执行的函数,但是不能在主机代码中对dev_c进行内存读/写操作。因为dev_c申请的是设备内存,不能在主机代码中用主机指针访问设备内存,反过来也一样,不能用设备指针访问主机内存。
然后可以利用cudaMencpy()在主机代码中访问设备内存,设备指针用完后用cudaFree()释放,不可以直接Free(),原因同上,不能在主机代码中直接访问设备内存。
4.查询系统中支持CUDA的设备信息
////查询设备
    cudaDeviceProp prop;
    int count;
    err = cudaGetDeviceCount(&count);
    for (int i = 0; i < count; i++)
    {
        err = cudaGetDeviceProperties(&prop, i);

        if (err != cudaSuccess)
        {
            fprintf(stderr, "Failed to get device %d properties (error code %s)!\n", i, cudaGetErrorString(err));
            exit(EXIT_FAILURE);
        }

        printf("Name: %s\n", prop.name);////这里打印设备信息,具体包含哪些信息查看《NVIDIA CUDA Programming Guide》  
        printf("Compute capability: %d . %d\n", prop.major,prop.minor);
        printf("Total global Mem:%lld\n", prop.totalGlobalMem);
        printf("Total constant Mem:%ld\n", prop.totalConstMem);

    }
完整代码:

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

#include 
#include 
using namespace std;




__global__ void add_kernel(int a,int b, int *c) {
    *c = a + b;
}

int main(void)
{
    cudaError_t err = cudaSuccess;
    ////参数传递
    int c;
    int *dev_c;
    err = cudaMalloc((void**)&dev_c, sizeof(int));
    add_kernel << <1, 1 >> > (2, 7, dev_c); ////核函数处理
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to allocate device value dev_c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    err = cudaMemcpy(&c, dev_c, sizeof(int), cudaMemcpyDeviceToHost); ////主机代码中,不能对cudaMalloc()返回的指针进行读取,写入内存操作(即不可修改),但可以作参数传递,执行算术运算。
    if (err != cudaSuccess)
    {
        fprintf(stderr, "Failed to copy device value dev_c to c (error code %s)!\n", cudaGetErrorString(err));
        exit(EXIT_FAILURE);
    }

    printf("2+7=%d\n", c);
    cudaFree(dev_c); ////不可使用free(),因为在主机代码中不可修改该内存的值  ,  总的来说,主机指针只能访问主机代码的内存,设备指针只能访问设备代码的内存

    ////查询设备
    cudaDeviceProp prop;
    int count;
    err = cudaGetDeviceCount(&count);
    for (int i = 0; i < count; i++)
    {
        err = cudaGetDeviceProperties(&prop, i);

        if (err != cudaSuccess)
        {
            fprintf(stderr, "Failed to get device %d properties (error code %s)!\n", i, cudaGetErrorString(err));
            exit(EXIT_FAILURE);
        }

        printf("Name: %s\n", prop.name);////这里打印设备信息,具体包含哪些信息查看《NVIDIA CUDA Programming Guide》  
        printf("Compute capability: %d . %d\n", prop.major,prop.minor);
        printf("Total global Mem:%lld\n", prop.totalGlobalMem);
        printf("Total constant Mem:%ld\n", prop.totalConstMem);

    }
    return 0;   
    
}

你可能感兴趣的:(cuda学习笔记1)