从5G入池看AI发展新方向 | 杜克大学陈怡然教授专访
陈怡然教授专访
2020.03
作为IEEE Circuitd and Systems Magazine的新主编，陈怡然在2020年的第一期杂志上发表了一篇欢迎词，表达了他对下一个十年的展望。在他个人微博相关博文的最后一句，他写道“未来已来”。
陈怡然现任职于美国杜克大学，是电子与计算机工程系的终身教授，杜克大学计算进化智能中心主任，也是美国NSF新型可持续智能计算中心主任。
2019年的圣诞节，陈怡然带着全家人回到了国内度假。假期间隙，他受邀回到母校，参加了“清华校友学习日”的活动，通过《从神经网络到专用人工智能》的讲座，介绍了当前最先进的技术的发展与变化。
时间回到1994年，那时的通讯专业正是热门，陈怡然从郑州一零一中学被保送到了清华大学电子工程系光通信专业，赶上了学校的“4+2”，也就是“拔青苗”培养计划，六年硕士毕业，毕业时间被提前了一年。
出于个人兴趣，也为了和夫人念同一所大学，硕士毕业后陈怡然选择了去美国普度大学读微电子方向的博士，并先后进入Synopsys 和Seagate的Advanced Technology Group开始了科研和实验工作，“我的90多个专利也大多是那个时候发的。”陈怡然说。
几年后经济危机席卷美国，实验室解散，陈怡然选择进入匹兹堡大学继续专心做科研。当AI迎风而起时，杜克大学联系了当时在做相关领域的陈怡然夫妻，并给出了两个终身教职作为邀请。这其中杜克看重的，便是其出色的学术实力。
他6次获得次国际会议最佳论文以及12次最佳论文提名，曾获得美国国家自然科学基金委教授早期职业发展奖(NSF CAREER)和ACM电子自动化协会新教师奖，出任过多本IEEE和ACM期刊编委，担任过超过40个国际会议的组织与技术委员会主席和委员。2018年，陈怡然又当选成为IEEE fellow。
今天，陈怡然在人工智能领域的国际舞台上仍然扮演着重要角色。谈到关于AI的最新发展与之后变化方向，他与图灵访谈聊了聊自己的看法与总结。
陈怡然教授
壹
拥有新技术，是否还要重复造轮子？
现在，参加会议是陈怡然的日常工作和交流最新技术趋势的主要途径之一。随着过去一年大环境的改变，与之前相比，陈怡然近期回国参会的次数少了很多。
对比国内外会议的关注重点，陈怡然提到了国内独特的创业环境，还有对于落地的重视：“国内的会议上，几乎所有人见面的第一个问题都是：AI怎么去落地？”
在美国，多数大企业在购买新技术后，会有一个公司内部实现转化和落地的过程。中国的很多企业，包括有些大企业，缺少这一过程，所以投资者在投资时更加看重技术的落地情况，希望“拿来就能用”。也是因为这样，国内投资聚焦的点多在自然语言处理、医疗或者金融等行业。
“我们国家的比如NLP、医疗和金融领域的技术从产生到落地的赛道很短，美国相对会长一点，这是因为双方的经济发展模式与所处阶段不同，倒不是谁比谁更高明。”
陈怡然在杜克大学
陈怡然解释，在美国，很多有技术的小企业不会做到上市这一步，就被大公司收购了。美国大公司的垄断使得小公司很难真正走到成功，但其雄厚的实力也可以在收购一个小公司后，有足够的人才和技术保障来吸收新技术，从而顺利将其转化出自己的产品和市场。
在中国，大公司在收购时更希望小公司已经有了自己完整的产品线，产品出来就可以直接开始盈利，“因为很多企业其实没有足够的实力来真正消化掉收购的企业”。而如华为等有这个能力的大企业，比起收购，则更愿意自主研发。
自然而然，这样不同的创业环境下，美国与中国的创业公司需要权衡的发展重点也就有一定差异。
“所以美国许多小公司可以只关注技术，做好了自己的部分就卖了盈利。”陈怡然说，“美国许多公司最后是不会走到上市那一步的，他们投入所有精力，生产一个足够好的零件，就可以卖出漂亮的价格，然后他们可以接着去做其他的技术。”
而对于植根中国的科技创业公司来说，有了足够创新的“零件”，仍然无法像美国的创业公司一样。即使是像地平线一样拥有自己独特创新技术的公司，也仍需要自主完成一个完整的系统。
“这其实是非常难的。”陈怡然解释，“一个公司想要证明自己，用在重复造轮子上的时间和精力可能有80%-90%，要远远超出真正创新的部分，就是为了证明这个零件是有用的，这个车可以走。对于一个资金和人力都有限的创业公司来说，这是个极大的挑战，也是导致很多创业公司最终失败的原因。”
AI芯片公司也面临着同样的困难。从芯片研发的角度来说，AI只是其中的一个功能，其他重要的功能还有例如语言、图像、数据处理等，但是只做好了AI相关的技术还远远不够，“就像上战场，即使有了新发明的武器，也还需要之前积累的其他装备来武装全身，不能只是手里拿着武器就冲出去了”。
于是在美国的创业公司着重技术更新的时候，许多中国的创业公司把更多的人力与物力投入到了重复造轮子当中。值得注意的是，这样的差异也使得一些AI技术在两个国家最后的落地有不同的效果。
目前AI已经在很多生活场景中实现落地，不从事相关领域的人却没什么太大的感觉。“公众感受不深主要是因为没有单一产业的形成，落地更多的是嵌在很多已有行业中，造成的影响也就不会像电脑或手机的发明那样引人瞩目。”
贰
冲出“地平线”，在赛道上找准自己的位置
在过去一二十年的时间里，中美的关系互动已经形成了一个相对固定的趋势。美国的研发规模与其市场容量存在一定的差异，其本土的市场容量不足以支持所有新技术的落地，技术溢出成为常态。
“也就是说，美国每年可能会产生100种新技术，但其中真正可以在美国本土实现落地的可能只有20种左右，其余的大部分则需要在海外包括中国等国家落地，投资后的利润回到美国，来支持下一轮新技术的研发，这样就形成了一个循环。”
原有的这一循环随着2019年大环境的改变发生了变化，双方的协作也在美国技术源头被打断后停滞。站在我们的角度看，这种停滞也为国内相关对标企业带来了新的投资机会。“所以有人问我接下来投资什么，其实很简单，照着被禁名单找国内的对标企业就好。”
以地平线为例，2019年2月27日，地平线获得SK中国、SK Hynix以及数家中国一线汽车集团（与旗下基金）联合领投的近6亿美元的B轮融资，迎来全年高光时刻。经过了这轮融资，地平线公司估值达到30亿美金，超越一众后起之秀，成为了全球估值最高的AI芯片公司，一时风头无两。
只是这样的辉煌没有持续太久。
作为头部AI芯片公司，地平线从年中开始，一直持续到年末的“裁员”现象引起了业内不少人的关注。这个现象被不少人工智能从业人员当做了人工智能遭遇拐点的象征，也有不少人开始提出AI的发展风头已过，进入了减速带，甚至冷静期。在这其中，也有不少对于地平线作为人工智能头部企业的能力与责任心的质疑。
谈到这里时，陈怡然表示：“地平线现在做的自动驾驶从大的赛道来看是没问题的。汽车不会被取代，自动化也是板上钉钉的事，赛道本身一定会有人冲出来。只是遇到了整个行业低迷，对于大公司来说，有些事很难避免。”
放眼整个市场，近年汽车行业表现平平，对于这种情况下的裁员，陈怡然表示理解：“想要熬过这段时间顺利进入下一程，有些出于防御的缩减和改变是必须的。”
中美贸易摩擦的时间里，已经有不少中国相关的对标企业开始拿到一定的投资。国内巨大的应用场景无疑是无可比拟的优势，在这样的场景里，最后一定会有人冲出来。
只是对于大家来说，这样的市场环境也并不全是优势。陈怡然认为现阶段芯片企业发展受到的冲击已经很明显了：“现在存在的最大问题，就是企业不可能在一个不完全开放的环境中取得完全成功。在小范围关起门来说，照顾对标企业没问题，这在商业模式下也是可行的。美国有雅虎，中国有搜狐，两国有鲜明的文化等差异，大家在各自的文化里都立得住。”
而高科技不一样，它有着通用的语言和一样的底层。“可以说大家技术上有时差，有的地方在技术上可能会领先几年；也有专利壁垒没法跨越。但是我们之间没有秘密：你知道的大家都知道，大家知道的你一定也知道，我不相信我们的程序员会不知道世界上其他地方的程序是什么情况。在这样的大环境下，企业怎么可能在封闭的市场里取得真正的成功呢？不可能的。”陈怡然表示。
短期来看，在企业处于没有成熟的萌芽阶段，适当的保护和资源优势可以提供一个相对稳定的发展环境；放眼长远，在面对全世界的市场时，本地企业总是需要和国外企业一同竞争后才能分出输赢。
“国内多支持地平线没有问题，但是如果关起门来只用地平线，一旦开放，和Mobileye、特斯拉等公司碰上，就很容易被国外企业摧枯拉朽竞争掉，长期来看，最好还是可以和不同的企业掰掰腕子。”陈怡然补充道，“当然，国家对特定产业的保护是另一个问题。”
国内AI芯片发展的另一个问题涉及到摩尔定律，也就是芯片的发展周期没有滚动起来。不少公司在不断推出新的芯片后，产品会得到不错的口碑，但最后并没有真正实现落地，也就没有挣到足够的资金投入下一代芯片。
在过去的三十年，摩尔定律每年都在被质疑，但它一直都在往下走，以不同的形式出现。谈到摩尔定律对于芯片及芯片公司发展的影响，陈怡然说：“芯片是个很古老的行业，我们在这个行业的主要困难就是被人在技术上卡脖子。AI芯片的周期很有趣，它是个不断迭代的过程：一个芯片的生命周期大概是2-3年，也就是24到36个月，其中真正挣钱的只有12-18个月，后期基本就是维持消逝。”
在盈利的12-18个月中，芯片需要挣到足够的钱支持完成下一轮的迭代。想要跟上发展的关键，就是让芯片发展的周期从头到尾完整起来。
“迫于市场竞争压力，即使没有从上一轮芯片获得足够的利润，许多公司仍会投资新的芯片，成了靠烧钱推动进程，就好像一个完整的环，现在我们只有一半，另一半还没有。”陈怡然告诉图灵访谈，“这也是很多小公司无法走到最后的原因，还没有完成这个周期，就已经撑不住了。芯片的发展最后一定是小的被大的吃掉，大家合并成几个大的公司。”
同时陈怡然表示，对于新技术从算法到实际应用的过程中简化落地周期而言，AI芯片并不是一个技术能否落地的决定因素。“它的作用是间接的，并不能被当做‘杀手锏’，更像锦上添花。”陈怡然举例：“一个要用5年实现的技术，有了AI芯片的加持，可能3年就能实现。”
其他影响AI落地的因素还有数据的获取、模型的建立和训练以及系统成本。在这些成本中，AI芯片占的比例只是很少一部分，而且不是决定的部分。其他更多的非技术因素也会影响AI的落地情况，“就像几十年以前，我们告诉纺织工人有了纺织机他们就不用再工作了，他们也不会支持纺织机进入工厂”。一旦涉及到人，情况就复杂了很多，需要好好推敲。
谈到大家对于AI相关产业的追捧，陈怡然说：“掀起AI芯片大热和前所未有发展大浪的，更多的是国内微电子的大热与实现弯道超车的需要。”而这样的需要也导致了不少算法研究人员更重视刷榜，而不是投入实现落地的现象。
“亚洲人在世界AI领域的话语权整体上不高，大家很难进入核心委员会，即使是在美国的华人学者也会面临这样的问题，刷榜也可以作为一种发声方式吧。”陈怡然说，“这样的现象正在改变，只是很慢，还需要时间。”
“企业也很明白这一点，所以会在刷榜和落地上找到自己的平衡，这与企业所处的阶段也有很大关系，例如在融资阶段时，一个漂亮的排名可能就会起到用处。”
无论是中国还是美国企业，实力是提升在国际上的话语权的根本。作为提升企业实力的重要手段，邀请高校教师加入都是很普遍的现象。
“现在国内很多企业招收的知名学者已经很多了，当然与谷歌这样的公司比还是有一定差距。站在我的角度看，学者进入工业界确实会有很多问题，并不是说挖了就一定能成功，关键在于怎么用这些老师。”
举例来说，国内的工程师比较擅长频繁试错，不断成长，试错成本相对较低，所以可以做到快速迭代成长。相比之下，老师擅长的是高瞻远瞩和确定方向，所以还是要配执行力强的人，让老师做该做的事情。
“老师的优势是号召力强，一个优秀老师的到来可以带来很多人才，这样后续人才储备就跟得好。换个角度，如果只是一味要求老师提升KPI就不太行，因为他接受的训练就不是干这个的。”
叁
实现自动化，让芯片研发过程无人值守
想要让算法的研究更加贴合实际应用，算法研究员和芯片研究员都需要向实际应用靠拢。“不能两边各干各的。”陈怡然说。
为了更好地实现这一点，整个过程的自动化成为了一个大趋势。
“系统根据数据找到最切合的模型，训练出来满足要求，根据模型再设计最切合的硬件，有效地去做计算。有了标注好的数据、模型和硬件，中间不需要人管，就可以实现end to end。这一过程中，从拿到数据到发现最优神经架构搜索，再到找到最好的神经网络，中间完成匹配全部是自动优化出来的结果。”陈怡然解释道。
实际上，这个过程中每个单独的点现在都已经完成了，比如拿到数据、发现最优神经网络架构和硬件匹配，现在的工作就是将各个点之间连起来，形成一个整体。
这是美国现在在做的工作，也是未来两三年不可小视的工作重点——实现在无人值守的状态下自动完成从数据进来到最终芯片出来的一系列的工作。“因为在实际落地过程中，我们得到的往往只是一个要求和相关数据，最终达到一定正确率即可，客户是不会管中间过程的。”
美国不少机构在这方面已经取得了一定的成果，国内如清华大学、中科院计算所等机构在大公司的支持下，也逐渐取得了进展。陈怡然预测这一趋势的落地会非常快，“也许在近两三年之内就会在嵌入式等一定简单的应用上实现落地”。
肆
5G入池，激起行业发展新趋势
作为合格的芯片，不论要应用于哪个行业，其制造都需要满足两种要求：效率与成本。在大的要求下，AI芯片的计算功耗效率和计算效率需要提升，单位成本则需要降低。
“在国内，大家的支付意愿更偏向数据中心，而不是IoT。”市场中不同行业的支付意愿也是不同的。
一般来说，对算力要求比较高，又愿意付钱的行业大致可以分为两种，其中一种是一旦提高对于算力的要求，获得的利润也成倍增长的行业。
陈怡然举例：“比如阿里巴巴和京东的推荐系统，当精确度从99%提升到99.9%的时候，创造的成交收益可能就会增加几千万甚至上亿。这对于购物网站来说是非常重要的。在医疗方面也是一样，死亡率上的一个小改变，对于最后结果的百分比都很关键。”
另外一种则是如IoT指数增长。“比如在移动端上，今年我在移动设备上布一百万个点，明年布一千万个，最后实现每个设备都有点，这种情况下大家的支付意愿也很高。”
在这其中，陈怡然关注的是IoT+5G，做支撑的是他的一个理论：一条认知曲线看似是线条的起伏波动，但实际上要更复杂，每个上升或下降的过程中都有其他细小的趋势改变。
不同的技术不停插进来，也就使得这条曲线不停产生新的波动。“就像往池子里扔个石子，会激起一圈一圈的水纹，涟漪从大到小一圈圈扩开。当同时扔两个石子进去的时候，就会汇合会形成更大的波。”陈怡然解释。
AI的第一个波已经过去，5G的到来无疑是第二颗石子，会激起更大的波。“5G是一个大家容易关注到的点，即使不是百分之百确认这个技术会带来怎样的变化，相关方向的努力也是合理的。5G的设计本身就是为了IoT，如果真的可以像承诺的那样发展，AI一定会顺势而起。美国现在很火的AIoT（智能物联网），就是计算资源下沉到端。”
陈怡然教授组织参加第一届AloT研讨会
所有做云的企业，比如亚马逊和谷歌，都一定会抢端，即使赚钱的部分是云。目前阿里和华为也在做着相似的工作，努力卡住端上的数据。为了应对5G的投入，行业内的各个公司都在为之做着准备。
进入2020年后，陈怡然的工作也开始围绕着新的环境和5G到来展开。“目前我的研究重点更偏向深度学习加速，我不是应用的专家，也不做基础算法，而是更偏向做计算，给我一个算法我会研究怎样做得更快，用时更少。”
杜克大学进化智能中心
杜克大学计算机进化智能中心也是一个产学合作中心，作为中心主任，除了学院的日常教学，陈怡然的日常工作也会涉及与企业合作，解决企业问题等方面：“因为产学合作中心的关系，我三分之一的工作与企业结合非常紧，国内合作的企业有京东、地平线等公司。另三分之二是做基础的研究工作。”
新的一年，中心会在新的计算模型上做更多工作，陈怡然告诉我们：“原来会希望参数越多越好，现在是希望提升内存等比较细的工作。新的一年会继续做技术安全等慢慢热起来的工作，当然重点还有刚才提到的end to end 的优化。围绕5G技术的投入，中心也会做相应的研究工作。”
2020年，陈怡然和他的团队还计划出一本白皮书，梳理一下现有的技术、对应技术的相关评论，和各个公司的技术路线等，解决市面上已有信息比较散、新发表的重要文章和行业趋势还未整理出来等问题。陈怡然希望这本白皮书能承担起相应的社会责任责任，梳理信息，给大家做一个参考，“也告诉大家我们是如何做判断的”。
文 / 孙燕
题图源自网络
往期访谈：
专访Ruby之父：27年初心不改，Ruby绝不会停下脚步
专访轮子哥：我在微软「造轮子」，一不小心成了知乎大V
胡阳：汗水铺就代码之路，三分天注定，七分靠打拼