先进计算发展研究报告（2018年12月）- 摘录
来源:中国信息通信研究院
前言
作为信息技术领域的基础和核心,近半个世纪以来,不断涌现的计算技术浪潮推动着信息技术的持续发展和普及,对国民经济、社会发展发挥着基础性、渗透性、引领性的作用,是科技、经济和社会创新发展的重要推动力。
现代计算技术起源于 1946 年埃尼阿克(ENIAC)的诞生,迄今为止已有超过七十年的发展历程,在半导体工艺器件、CPU 芯片以及分布式、集群、异构等系统技术的推动之下,历经大型机/小型机、PC/服务器、集群/分布式、小型化/低功耗等发展阶段,成为 ICT 产业升级最快、创新最活跃的领域之一。
供给和需求的不匹配推动计算技术产业进入新一轮发展周期,人工智能、自动驾驶、物联网、VR/AR 等创新应用取代基础软硬件成为创新新动能,面向不同应用计算需求的优化和加速将成为近期先进计算技术升级的主要思路。当前,技术创新模式和产业生态体系重构在即,开源开放的影响力日益凸显,多元化的生态发展趋势也为后进入者带来更多的发展机遇。
应用创新对计算需求的增速远超摩尔定律
以人工智能为代表的算力依赖型应用极大加快计算资源消耗。除数据洪流催生计算资源和性能提升的普遍诉求外,以人工智能为典型代表的强算力消耗型应用创新更是极大提升了对计算能力的需求。
区别于传统机器学习算法,以深度学习为代表的人工智能算法本质是基于概率统计理论,通过大量计算资源对大规模数据样本的处理,实现远超传统机器学习算法的识别精度,这种暴力计算模式正逐步流行并成为现阶段统治人工智能计算的主流范式。
据统计自 2012 年以来,人工智能训练任务使用的计算能力每 3.5 个月提升一倍,目前增长已超过 30 万倍。大量计算资源的利用给算法、模型和应用的创新带来显著成果,如在 2012 年,谷歌与斯坦福大学组成的联合研究组利用16000 台计算机处理数百万段 YouTube 视频,实现识别猫的功能。
随着深度学习网络模型日益复杂、数据样本持续扩大,其对计算能力的需求和消耗与日俱增,人工智能计算体系已从早期的 CPU 芯片过渡到以并行处理性能取胜的 GPU 芯片,再到现阶段的大规模人工智能芯片集群,但与人工智能应用创新所带来计算需求增速相比差距依然较大
应用创新所带来的多样化需求成为计算发展的核心动能。
计算的发展历程就是计算供给能力与应用创新需求之间的彼此驱动和迭代升级,二者的关系正由“先有能力,再谈需求”向“根据需求,实现能力”转变,创新应用在被动等待计算技术升级的基础上不断提升能动性,逐渐演变成为驱动计算发展的核心动能。
大型机、小型机时代,由计算软件、计算硬件构成的计算设备/系统与应用基于一体化的模式发展,面向不同应用需求的软件和硬件均为专有体系,不仅昂贵且技术升级缓慢。
PC 时代,以 IBM 代表的软硬一体化模式被英特尔和微软所打破,二者在软硬耦合的前提下,遵循“摩尔定律”和“安迪-比尔定律”滚动迭代,即计算芯片和存储器每 18-24 个月实现硬件性能的翻倍,以 windows 操作系统为代表的计算软件随之升级功能支撑应用创新。
云计算及移动互联网时代,终端层面的智能手机和智能硬件在延续 PC 发展规律的同时进一步加快升级步伐,云端层面则通过虚拟化等软件技术实现大量计算硬件资源的汇聚以支撑搜索等应用的海量计算需求。
目前,人工智能、自动驾驶、VR/AR 等创新应用爆发带来了计算需求的激增,现有计算硬件能力基本不能满足需求,差距普遍在十倍以上甚至百倍,传统计算升级模式已无法跟进应用快速创新的需求,计算进入应用直接定义的时代。