笔记：AI芯片的未来创新方向

AI芯片的创新方向大体是以高性能和/或低功耗为要点。下图中展示了一些目前所知的AI芯片的创新实现方法。

1. 脉动式电路

所谓脉动式设计，是指运算过程模拟心脏和血管中血液的脉动式流动，数据像流水线一样经过各个处理器，数据可以被重复使用而不需要每次都返回存储器，由于少了数据的搬运，该设计可以大大降低功耗。

2. 异步电路

异步电路没有时钟，由事件驱动，可以大大提高芯片性能并降低功耗。由于该种电路设计难度较大，目前多采用全局异步局部同步(Global Asynchronous and Locally Synchronous, GALS)技术，或称为自定时技术，进行折中实现。

 

3. 新的散热方式

如谷歌在TPUv3上采用的水冷散热方法，但需要很高的工艺水平。

4. 大芯片

大面积芯片可以容纳更多的处理单元和片上存储器，而不需要把数据放到片外DRAM上来回存取，从而可以大大降低时延和功耗。例如NVIDIA的GV100 GPU，内核面积达到815 mm^2，集成了211亿个晶体管。但大芯片存在制造困难，成品率低以及散热等问题。

5. 晶圆级集成

晶圆级集成比大芯片更大，是将AI系统做在整个晶圆上，而不是从晶圆切割下来的芯片上。2019年，初创公司Cerebras使用晶圆级集成技术实现了深度学习加速器，从而大大加快了神经网络的训练速度。晶圆级集成的面积，要比CPU、GPU等常见的芯片面积至少大50倍。

6. 芯粒(Chiplet)

芯粒由于其面积非常小（常见的为6 mm^2，甚至低于1 mm^2），功耗很低，非常适用于物联网，也适合进行模块化设计，将多个芯粒组装成较大的高性能芯片。近几年，Intel、AMD、Nvidia等都加入了开发芯粒的行列。

7. 存内计算

随着新一代存储器如RRAM、存内计算或近存算等技术的成熟，其商用已经不再遥远。

8. 自供电电路

如果电路功耗可以做到非常小，那么就可以使用如太阳能、人运动的机械能、散射无线电波等能量来给芯片供电，使得电池或普通电源不再是必需。

9. 模拟电路

纯粹的模拟电路能够大大提高运算速度，降低功耗，非常适合未来的模拟计算范式。但纯粹的模拟电路存在电路设计上的门槛。

10. 亚阈值电路

该种电路是使晶体管工作在阈值以下的低电压，从而达到低功耗，其工作频率不高，可以应付部分神经网络。 

11. 细胞神经网络

该网络是模拟神经系统中细胞间的自组织原理。初创公司Gyrfalcon研发的细胞神经网络AI芯片，据称能效远远高于普通的CPU和GPU。

12. 多值逻辑电路

顾名思义，多值逻辑是指电路的运算机制不再局限于传统数字电路的二进制，而是可以有3个或者更多个值来实现逻辑运算。忆阻器及RRAM等阻变存储器的出现，使这种电路设计方法成为了可能。

13. 单片3D芯片

3D芯片的未来目标是把模拟电路、数字逻辑电路、存储器、传感器等全部堆叠成一块单片3D芯片。目前较成熟的方法是2.5D方法，通过一个中阶层来实现堆叠。

14.  硅光芯片

硅光芯片是光子计算的核心。2017年，麻省理工提出了光神经网络，让矩阵乘法在光域完成。如果AI芯片能用硅光实现，可以在性能上至少提升2个数量级。

15. 量子芯片

使用量子芯片作为量子神经网络AI加速器，是一个很有前景的想法。目前量子芯片还在研究和开发阶段，使用的技术包括硅光技术、普通CMOS数字芯片在常温下进行量子计算、可在超低温环境下工作的超导芯片等。

 

参考：《AI芯片：前沿技术与创新未来》