TPU与GPU

2016业绩最亮眼的股票应该就是生产GPU的英伟达公司了。

GPU：Graphics Processing Unit的缩写，直接翻译过来就是图形处理器，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上图像运算工作的微处理器。现在一般稍微高档智能机上都会配备GPU。

GPU对于我们非常熟悉的CPU相比，到底有什么长处呢？

第一，控制变得更简单，在单个项目中就会有更高的效率。CPU为了能应付各种各样的计算模式，把功能做的很全，用一个篮球队来做比喻，CPU就是一个多面手，他在场上既要投篮，又要抢篮板，又要站外线防突破，就像 L. James, 这样带来的后果就是自己累的要死，却在任何一个项目上都做的不够专业。如果能像公牛队一样，每个位置上都有一个专职的高手负责，那么所有人都会轻松的多，效率也会提高很多。

第二，将单个计算变成批量计算。如果CPU是一个什么题都能解的学霸，但是碰到一堆很简单，题型类似的算术题，他也必须一道一道的算，而GPU相当于你在EXCEL文档处理里点住小加号再往下拉，把A1+B1=C1,A2+B2=C2,...一直算到An+Bn=Cn,一气呵成，哪个算法的效率更高也就一目了然。

有了GPU，很多重复计算的公式就可以批量处理完成，这种算法最早应用于图形设计计算。后来，英伟达发现机器学习的算法也可以用这种方式实现，于是2016年，针对机器学习的特点，设计了针对机器学习的GPU，最新的P40 处理器内部就有多达3000个“统一计算架构”的内核。

在去年的AlphaGo对战李世石的过程中，就是用了176个英伟达的GPU承担了主要的计算功能。这么多的GPU，缺点是很明显的，就是耗电量太大，而且这么多的处理器，体积也太庞大，如果要应用到个人便携设备上，这样的技术显然是远远不能满足应用的。

GOOGLE今年就在GPU的基础上，进一步使计算变得更专注，设计了一款针对特定张量计算的处理器TPU,其中的T就是代表张量（Tensor）。这种TPU的特点就是比GPU更专注，用一个比喻来说，TPU倒是很像电影《雨人》中的那个患自闭症的天才，他能在一瞬间数清掉落在地上的火柴数目，也能记住几副扑克牌的顺序，但是在生活中别的领域却是一个不能自理的低能。专注带来的好处就是在某一个领域可以做到更高效，缺点就是这个款式的TPU如果应用到别的行业，就像一个傻子了，而重新设计一款针对某行业的TPU，耗费巨大，所以说来，CPU,GPU,TPU各有各的长处，而在机器学习模式中，GPU，TPU显然有更大的优势。