CUDA的学习

CUDA的学习

      前面几天写了三维重建中的特征提取部分,下面接着写,不过今天写一下CUDA的内容,这个下面要用到,要学习,首先装环境,装了CUDA5.0,网上有一个windows7+CUDA5.0的教程,挺好,按照那个基本上没有问题,不过实际在运行的过程中发现了一个问题,就是不同通过windows的远程桌面连接,远程桌面不能调用显卡。

     于是想远程操作的则可以下载一个Symantec pcAnywhere,远程控制软件。好了不多说,我们就先看第一个程序。也就是CUDA5.0自带的demo。

     把整个程序列上来,然后加了点注释,这个也只是参考加上本人的理解,也不知道正确与否。望大家指正。

#include "cuda_runtime.h" //使用 runtime API

#include "device_launch_parameters.h"

#include 

cudaError_t addWithCuda(int *c, const int *a, const int *b, size_t size);

// 显示芯片上执行的程序。在 CUDA 中,在函式前面加上

// __global__ 表示这个函式是要在显示芯片上执行的。

// 在显示芯片上执行的程序有一些限制,例如它不能有传回值。

// 接下来是要让 CUDA 执行这个函式。

__global__ void addKernel(int *c, const int *a, const int *b)

{

// threadIdx  是 CUDA 的一个内部的变量,表示目前的 thread 是

//第几个 thread(由 0 开始计算)这边会有 size =5 个 threads

//每一个的 threadIdx.x  则分别会是 0 ~ 5。利用这个变量,我们

//就可以让每一份函式执行时,对整个数据不同的部分进行相加。

int i = threadIdx.x;

c[i] = a[i] + b[i];

}

int main()

{

const int arraySize = 5;

const int a[arraySize] = { 1, 2, 3, 4, 5 };

const int b[arraySize] = { 10, 20, 30, 40, 50 };

int c[arraySize] = { 0 };

// Add vectors in parallel.

cudaError_t cudaStatus = addWithCuda(c, a, b, arraySize);

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "addWithCuda failed!");

return 1;

}

printf("{1,2,3,4,5} + {10,20,30,40,50} = {%d,%d,%d,%d,%d}\n",

c[0], c[1], c[2], c[3], c[4]);

// cudaDeviceReset must be called before exiting in order for profiling and

// tracing tools such as Nsight and Visual Profiler to show complete traces.

cudaStatus = cudaDeviceReset();

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaDeviceReset failed!");

return 1;

}

return 0;

}

// Helper function for using CUDA to add vectors in parallel.

cudaError_t addWithCuda(int *c, const int *a, const int *b, size_t size)

{

int *dev_a = 0;

int *dev_b = 0;

int *dev_c = 0;

cudaError_t cudaStatus;

// Choose which GPU to run on, change this on a multi-GPU system.

// 选择哪个GPU去运行,这个在多GPU系统上修改。

cudaStatus = cudaSetDevice(0);

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaSetDevice failed!  Do you have a CUDA-capable GPU installed?");

goto Error;

}

// Allocate GPU buffers for three vectors (two input, one output)

// 给三个向量(两个输入,一个输出)分配GPU缓存.

// 要利用 CUDA 进行计算之前,要先把数据复制到显卡内存中,// 才能让显示芯片使用。因此,

// 需要取得一块适当大小的显卡内存,再把产生好的数据复制进去

cudaStatus = cudaMalloc((void**)&dev_c, size * sizeof(int));

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMalloc failed!");

goto Error;

}

cudaStatus = cudaMalloc((void**)&dev_a, size * sizeof(int));

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMalloc failed!");

goto Error;

}

cudaStatus = cudaMalloc((void**)&dev_b, size * sizeof(int));

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMalloc failed!");

goto Error;

}

// Copy input vectors from host memory to GPU buffers.

// 复制输入向量从主存到显卡内存。

// 通过调用cudaMalloc 取得一块显卡内存,然后通过过

// cudaMemcpy 将上述两个数组复制到显卡内存中.

// cudaMalloc 和 cudaMemcpy 的用法和一般的 malloc 及

// memcpy 类似,不过 cudaMemcpy 则多出一个参数,指示复制内// 存的方向。在这里因为是从主内存复制到显卡内存,所以使用

// cudaMemcpyHostToDevice。如果是从显卡内存到主内存,则使用 // cudaMemcpyDeviceToHost。

cudaStatus = cudaMemcpy(dev_a, a, size * sizeof(int), cudaMemcpyHostToDevice);

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMemcpy failed!");

goto Error;

}

cudaStatus = cudaMemcpy(dev_b, b, size * sizeof(int), cudaMemcpyHostToDevice);

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMemcpy failed!");

goto Error;

}

// Launch a kernel on the GPU with one thread for each element.

// 函式名称<<>>(参数...); 

//在 CUDA 中,thread 是可以分组的,也就是 block。一个 block 中//的 thread,具有一个共享的 shared memory,也可以进行同步工作。//不同 block 之间的 thread 则不行。在我们的程序中,其实不太需//要进行 thread 的同步动作,因此我们可以使用多个 block 来进一//步增加 thread 的数目。就是把这个1改变

addKernel<<<1, size>>>(dev_c, dev_a, dev_b);

// cudaDeviceSynchronize waits for the kernel to finish, and returns

// any errors encountered during the launch.

cudaStatus = cudaDeviceSynchronize();

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaDeviceSynchronize returned error code %d after launching addKernel!\n", cudaStatus);

goto Error;

}

// Copy output vector from GPU buffer to host memory.

cudaStatus = cudaMemcpy(c, dev_c, size * sizeof(int), cudaMemcpyDeviceToHost);

if (cudaStatus != cudaSuccess) {

fprintf(stderr, "cudaMemcpy failed!");

goto Error;

}

Error:

cudaFree(dev_c);

cudaFree(dev_a);

cudaFree(dev_b);

return cudaStatus;

}


使用5.0的时候要注意跟以前版本的不一样的地方,一个是这个版本里面没有了

#include "cuda_util.h"

也就是以前使用的向CUDA_SAFE_CALL之类的就不好使用了

修改以前版本的可以去掉通过上面的方法使用cudaError_t,也可以使用

#include

#include

不过不是C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v5.0\include

下的头文件最好不要引用,以免跟上面一样。

在对于CUDA 的操作中,开始的时候要将主存上的数据复制到GPU上,而GPU上又分为好几种

几种的区别以及何时用,也就是一个优化的过程,这个是个难点。

CUDA的学习_第1张图片

下面就主要的是一个并行算法的问题,这个也是最关键的。

下面再把Blocks 和 Threads和grid的关系图放上来

CUDA的学习_第2张图片

这样一个基本的CUDA程序就基本上了解了,不过要理解的还有很多,先写这么多。

http://www.cnblogs.com/fengbing/category/417672.html

你可能感兴趣的:(CUDA)