使用CUDA加速MATLAB程序

MATLAB十分擅长矩阵计算，如能借助CUDA工具箱调用NVIDIA GPU加速并行运算，能起到如虎添翼的效果。

最简单的调用方法是使用gpuArray()函数数据放到GPU上运算，再用gather()函数将结果取回（前提是运算支持gpuArray类型的变量，目前尝试过的矩阵乘法、求逆、pdist、pdist2函数均支持，可惜进行二次规划的quadprog并不支持。）。

不过，我最初在windows版MATLAB下调用gather()函数经常报错，然后便无法再MATLAB中调用GPU，使用reset(gpuDevice（1））)也还是报错。百度一番之后发现原来是windows系统的显卡超时检测和恢复（TDR）功能惹的祸。关闭TDR的方法是在HKLM\System\CurrentControlSet\Control\GraphicsDrivers下创建Dword值TdrLevel，并赋值为0  （https://answers.microsoft.com/zh-hans/windows/forum/windows_7-hardware/win7%E4%B8%AD%E5%A6%82%E4%BD%95%E9%85%8D%E7%BD%AE/69384e71-5075-4afe-a437-372425c0a3bb?auth=1）

用常用的pdist2函数进行测试：

gpuDevice(1)
A=rand(10000,10000);
B=rand(8000,10000);

tic; C = (pdist2((A),(B))); toc
tic; D = gather(pdist2(gpuArray(A),gpuArray(B))); toc;

结果：

ans = 

  CUDADevice - 属性:

                      Name: 'GeForce GTX 1050'
                     Index: 1
         ComputeCapability: '6.1'
            SupportsDouble: 1
             DriverVersion: 9.1000
            ToolkitVersion: 8
        MaxThreadsPerBlock: 1024
          MaxShmemPerBlock: 49152
        MaxThreadBlockSize: [1024 1024 64]
               MaxGridSize: [2.1475e+09 65535 65535]
                 SIMDWidth: 32
               TotalMemory: 4.2950e+09
           AvailableMemory: 3.4824e+09
       MultiprocessorCount: 5
              ClockRateKHz: 1493000
               ComputeMode: 'Default'
      GPUOverlapsTransfers: 1
    KernelExecutionTimeout: 0
          CanMapHostMemory: 1
           DeviceSupported: 1
            DeviceSelected: 1

时间已过 161.138259 秒。
时间已过 41.843864 秒。

可见GPU执行pdist2这种高度并行化的运算效率高出不少。