2018-04-16 转载CUDA和OpenCL的差异和发展前景

CUDA和OpenCL的差异和发展前景

观点1 

从很多方面来看，CUDA和OpenCL的关系都和DirectX与OpenGL的关系很相像。如同DirectX和OpenGL一样，CUDA和OpenCL中，前者是配备完整工具包、针对单一供应商(NVIDIA)的成熟的开发平台，后者是一个开放的标准。 虽然两者抱着相同的目标：通用并行计算。但是CUDA仅仅能够在NVIDIA的GPU硬件上运行，而OpenCL的目标是面向任何一种Massively Parallel Processor，期望能够对不同种类的硬件给出一个相同的编程模型。由于这一根本区别，二者在很多方面都存在不同： 1、开发者友好程度。CUDA在这方面显然受更多开发者青睐。原因在于其统一的开发套件(CUDAToolkit, NVIDIA GPU Computing SDK以及NSight等等)、非常丰富的库(cuFFT,cuBLAS, cuSPARSE, cuRAND, NPP, Thrust)以及NVCC(NVIDIA的CUDA编译器)所具备的PTX(一种SSA中间表示，为不同的NVIDIA GPU设备提供一套统一的静态ISA)代码生成、离线编译等更成熟的编译器特性。相比之下，使用OpenCL进行开发，只有AMD对OpenCL的驱动相对成熟。 2、跨平台性和通用性。这一点上OpenCL占有很大优势（这也是很多National Laboratory使用OpenCL进行科学计算的最主要原因）。OpenCL支持包括ATI,NVIDIA,Intel,ARM在内的多类处理器，并能支持运行在CPU的并行代码，同时还独有Task-Parallel Execution Mode，能够更好的支持Heterogeneous Computing。这一点是仅仅支持数据级并行并仅能在NVIDIA众核处理器上运行的CUDA无法做到的。 

3

、市场占有率。作为一个开放标准，缺少背后公司的推动，OpenCL显然没有占据通用并行计算的主流市场。NVIDIA则凭借CUDA在科学计算、生物、金融等领域的推广牢牢把握着主流市场。再次想到OpenGL和DirectX的对比，不难发现公司推广的高效和非盈利机构/标准委员会的低效(抑或谨慎，想想C++0x)。 我接触的很多开发者(包括我本人)都认为，由于目前独立显卡市场的萎缩、新一代处理器架构(AMD的Graphics Core Next (GCN)、Intel的Sandy Bridge以及Ivy Bridge)以及新的SIMD编程模型(Intel的ISPC等)的出现，未来的通用并行计算市场会有很多不确定因素，CUDA和OpenCL都不是终点，我期待未来会有更好的并行编程模型的出现(当然也包括CUDA和OpenCL，如果它们能够持续发展下去)。 

观点2 

1、CUDA有远好于OpenCL的生态系统，更易用，对程序员更友好。OpenCL的API设计怪异，缺乏一致性，功能亦不正交，很不直观，远未成熟。 

2、OpenCL的portability被夸大了，事实上根据我的经验，AMD和NV的OpenCL实现，组合行为是有差异的，并且有些十分隐蔽，难于调试。而且同样的代码在AMD和NV是有性能差异的，有时候差异非常大，为了一致的性能不得不写两套代码。如果有更多的vendor呢？ 

3、OpenCL作为开放的标准，完全依赖于厂商的实现，不同厂商支持标准不同。如果NV放弃支持OpenCL，那它还是通用的开放的标准吗？ 

4、即使NV倒闭，会有OpenCUDA出现的。 

现在AMD在推新的HSA，其IL类似NV的PTX，不知是何用意。Java会在未来（JAVA 9? 2015？）支持NV/AMD GPU加速。OpenCL的美好只存在于未来，问题是这个未来有多远。

观点3 

1、CUDA和OpenCL的关系并不是冲突关系，而是包容关系。OpenCL是一个API，在第一个级别，CUDA架构是更高一个级别，在这个架构上不管是OpenCL还是DX11这样的API，还是像C语言、Fortran、DX11计算，都可以支持。作为程序开发员来讲，一般他们只懂这些语言或者API，可以采用多种语言开发自己的程序，不管他选择什么语言，只要是希望调用GPU的计算能，在这个架构上都可以用CUDA来编程。 

2

、关于OpenCL与CUDA之间的技术区别，主要体现在实现方法上。基于C语言的CUDA被包装成一种容易编写的代码，因此即使是不熟悉芯片构造的科研人员，也可能利用CUDA工具编写出实用的程序。而OpenCL虽然句法上与CUDA接近，但是它更加强调底层操作，因此难度较高，但正因为如此，OpenCL才能跨平台运行。 

CUDA

是一个并行计算的架构，包含有一个指令集架构和相应的硬件引擎。OpenCL是一个并行计算的应用程序编程接口（API），在NVIDIA CUDA架构上OpenCL是除了C for CUDA外新增的一个CUDA程序开发途径。 

3

、如果你想获得更多的对硬件上的控制权的话，你可以使用OpenCL这个API来进行编程，如果对API不是太了解，也可以用CUDA C语言来编程，这是两种不同编程的方式，他们有他们相同点和不同点。但是有一点OpenCL和CUDA C语言进行开发的时候，在并行计算这块，他们的概念是差不多的，这两种程序在程序上是有很大的相似度，所以程序之间的相互移植相对来说也是比较容易。 

4、CUDA C语言与OpenCL的定位不同，或者说是用人群不同。CUDA C是一种高级语言，那些对硬件了解不多的非专业人士也能轻松上手；而OpenCL则是针对硬件的应用程序开发接口，它能给程序员更多对硬件的控制权，相应的上手及开发会比较难一些。 

5、程序员的使用习惯也是非常重要的一方面，那些在X86 CPU平台使用C语言的人员，会很容易接受基于CUDA GPU平台的C语言；而习惯于使用OpenGL图形开发的人员，看到OpenCL会更加亲切一些，在其基础上开发与图形、视频有关的计算程序会非常容易。 

观点3 

CUDA和OpenCL是目前在GPU上进行通用计算的两种主要开发环境，两者的主要区别如下： 

OpenCL的支持的设备范围更广。CUDA由NVIDIA提供并只能用于NVIDIA的GPU，而OpenCL是一个行业标准，不仅可以开发在NVIDIA和AMD显卡上运行的程序，也受到Intel和IBM支持，可以运行在通用CPU上。

CUDA的潜在性能更高。CUDA是NVIDIA的亲儿子，NVIDIA的GPU上的OpenCL（可能）是基于CUDA实现的，因此一般NVIDIA GPU上的OpenCL程序比CUDA程序略慢。

CUDA支持汇编而OpenCL不支持汇编。对于密码算法实现来说，C语言由于在乘法和进位等功能上的限制无法发挥指令集的最大功效，因此是否支持汇编对这类应用的性能有较大影响。

OpenCL进行在线编译而CUDA只能预编译。CUDA程序必须针对特定的硬件预先编译运行在通用CPU中的程序和运行在GPU中的程序，因此针对特定GPU优化的程序当更换目标平台后难以发挥最佳功效，甚至无法运行。而OpenCL的编译过程只编译CPU程序，GPU程序以C源代码的方式保存，在实际运行前由所在的OpenCL环境针对该环境的硬件即时编译，因此一个OpenCL二进制程序可以运行在不同的GPU或CPU上而无须重新编译。缺点是你无法保护你的源代码。

总的来说，要想追求极速可以选择汇编优化的CUDA，要想做商业应用，OpenCL是更好的选择。