CUDA编程中线程分配的数组在register中还是local memory中？
问题很简单，当我们在编写KERNEL的时候，分配了一个数组，那么这段数组空间是在register中，还是local memory中呢？通过几个测试，我们可以来看一下：
首先一些定义：
#define BLOCK_SIZE 32
#define GRID_SIZE 1
#define ARRAY_SIZE 32第一个kernel测试，静态索引static indexing，代码：
__global__ void kernel1(float *buf) {
float a[ARRAY_SIZE];
int tid = threadIdx.x + blockIdx.x * blockDim.x;
#pragma unroll
for (int i = 0; i < 5; ++i) {
a[i] = buf[tid];
}
float sum = 0.f;
#pragma unroll
for (int i = 0; i < 5; ++i) {
//static indexing
sum += a[i];
}
buf[tid] = sum;
}
这里，我们注意第二个for循环中，我们使用了pragma unroll展开循环，编译器将会将i优化为对应的数字0,1,2,3,4，同时，编译器也会将a[ARRAY_SIZE]优化为寄存器。我们可以通过nvvp来看一下sass代码，第41行代码对应的SASS代码只包含了5次FADD，并没有从local memory读数据的指令LDL，因此数组a是在寄存器中存储的。
第二个kernel测试，动态索引dynamic indexing，uniform access，代码：
__global__ void kernel2(float *buf, int idx_begin) {
float a[ARRAY_SIZE];
int tid = threadIdx.x + blockIdx.x * blockDim.x;
#pragma unroll
for (int i = 0; i < 5; ++i) {
a[i] = buf[tid];
}
float sum = 0.f;
#pragma unroll
for (int i = 0; i < 5; ++i) {
//dynamic indexing with uniform access
//The data in a will be stored in local memory, the access of array a will results a local load instruct per warp(LDL), and replays 0 times
sum += a[i+idx_begin];
}
buf[tid] = sum;
}
第三个kernel测试，动态索引dynamic indexing，non-uniform access，代码：
__global__ void kernel3(float *buf, int *idxBuf) {
float a[ARRAY_SIZE+5];
int tid = threadIdx.x + blockIdx.x * blockDim.x;
#pragma unroll
for (int i = 0; i < 5; ++i) {
a[i] = buf[tid];
}
float sum = 0.f;
#pragma unroll
for (int i = 0; i < 5; ++i) {
//dynamic indexing with non-uniform access
//The data in a will be stored in local memory, the access of a[] will results a local load instructs per warp(LDL), and replays 31 times
sum += a[i+threadIdx.x];
}
buf[tid] = sum;
}
第四个测试，nvprof events：
为了验证我们刚才的推测（包括存储位置，读操作replay次数），这里使用nvprof来查看一些重要的指标：
wenx@LINUX-14-04:~/work/$ nvprof --events local_load,local_store,__local_ld_mem_divergence_replays,__local_st_mem_divergence_replays ./a.out
==7893== NVPROF is profiling process 7893, command: ./a.out
==7893== Profiling application: ./a.out
==7893== Profiling result:
==7893== Event result:
Invocations Event Name Min Max Avg
Device "Tesla K20c (0)"
Kernel: kernel3(float*, int*)
1 local_load 5 5 5
1 local_store 5 5 5
1 __local_ld_mem_divergence_replays 155 155 155
1 __local_st_mem_divergence_replays 0 0 0
Kernel: kernel2(float*, int)
1 local_load 5 5 5
1 local_store 5 5 5
1 __local_ld_mem_divergence_replays 0 0 0
1 __local_st_mem_divergence_replays 0 0 0
Kernel: kernel1(float*)
1 local_load 0 0 0
1 local_store 0 0 0
1 __local_ld_mem_divergence_replays 0 0 0
1 __local_st_mem_divergence_replays 0 0 0
测试结果表明：
- kernel1中，数组的索引是常量，存储到了寄存器中。
- kernel2中，数组的索引是动态的，存储到本地内存中。由于访问的index一致，因此replay为0。
- kernel3中，数组的索引是动态的，存储到本地内存中。由于访问的index都不一致（32个不同的index），因此local memory的读操作重复了31*5=155次，其中5是指循环了5次。