算力利用率超90%！地平线推二代边缘芯片，详解AIoT落地综合打法
看点：重新定义AI芯片评估方式，解读地平线AIoT五大优势。
2019年，国内AI芯片玩家正围绕落地展开新一轮的冲刺。
一边是华为、百度、阿里等科技巨头和几家独角兽轮番秀出云端AI芯片新进展，另一边聚焦于边缘与终端的多家AI芯片创企陆续登场，揭开其第一代或者最新一代芯片的神秘面纱。
与此同时，人们评判AI芯片的标准，也由看算力、功耗等硬指标，转向看量产规模、看客户、看生态。
这不，国内AI芯片落地的排头兵地平线，刚刚亮出新剑！
今天上午，地平线推出第二代边缘AI芯片旭日二代和一站式全场景边缘AI芯片解决方案。其芯片等效算力达4Tops，典型功耗为2W，算力利用率超过90%，如果配合高效算法，在同等TOPS下可处理的帧数比GPU的10倍还多。
在此之前，地平线已经创造了多个记录：中国第一家AI芯片创企、发布中国首款边缘AI芯片、征程芯片登陆美国助力国际顶尖Robotaxi车队、旭日一代落地首年全球出货量达六位数、发布中国首款车规级AI芯片。今年3月，地平线宣布完成B轮6亿美元融资，估值达30亿美元，成为全球估值最高的AI芯片独角兽。
经过4年的积累，地平线在AIoT领域已经形成一套独特的打法。除了推出新品之外，今日地平线还聚焦于其AIoT产品的整体布局，展示其在芯片、整体方案、开放生态体系、落地能力等方面的核心优势，并公布其AIoT系列芯片的路线图。
旭日二代：算力达4Tops，算力利用率超90%
旭日二代边缘AI芯片（以下简称“旭日二代”）面向智能物联网，具备强大的视频结构化能力，可对多类目标进行实施检测和精准识别，今年3月已完成流片，接近量产阶段。
BPU架构由地平线基于AI算法实际场景需求设计而成，以最大程度提升算力的有效利用率，同时保障芯片的前瞻性、迭代延续性。
旭日二代的等效算力达4Tops，典型功耗为2W，单路可实时处理4K@30fps，4路可实时处理1080P@30fps。地平线联合创始人、技术副总裁黄畅强调说，该芯片典型算法模型算力利用率超过90%，这在业界几乎是绝无仅有的。
如果配合高效算法，每TOPS算力可处理的帧数将高于标称4Tops算力的AI芯片，比同等算力GPU处理帧数的10倍还多。
在旭日二代上的实际测试结果表明，分类模型 MobileNet V2的运行速度超过每秒700张图片，检测模型Yolo V3的运行速度超过每秒40张图片。
前期客户验证表明，旭日二代可完全满足商业、办公、社区、园区、教育等物联网场景需求。
以通行门禁考勤方案为例，相较旭日一代，旭日二代芯片方案可将最大人脸库容从最快200ms提升至100ms，并由原本只支持安卓系统进化为支持安卓/Linux系统。
目前，旭日二代支持MXNet和TensorFlow框架，预计明年年初支持PyTorch 。
黄畅向智东西介绍，地平线围绕其核心BPU定义一套自己的指令集，随着指令集的扩充，未来旭日芯片还将支持更多框架。
现场黄畅还透露了旭日系列芯片的路线图，旭日三代将于大约一年后推出，作为完整SoC方案，提供多种算力配置和多Camera输入支持，更好地整合多路的视频接入、视频处理、SP、视频编辑码压缩等技术。
▲旭日系列芯片Roadmap
解读地平线AIoT五大优势
相比传统芯片大厂，地平线拥有更加开放的生态体系，落地能力也更加灵活高效，能大幅提升开发效率，并确保客户投资安全性。
总体来看，地平线AIoT有五方面的优势。
1、软硬协同输出极致效能
地平线率先提出，将世界领先的深度学习算法集成在自主研发的边缘AI处理器及平台上，通过软硬协同的方式将发挥效能优势发挥到极致。
经典芯片性能评估方式是PPA（功耗Power、性能Performance、面积Area），AI芯片真实性能常用Tops/W与Tops来呈现。
而黄畅认为，此类评估方式并不完全准确，AI芯片的真实性能应是能效、利用率、算法能力的乘积。这意味着不仅要对芯片和算法进行优化，还要对连接两者的编译器等中间环节进行优化，最终达成全面的优化。
2、完整的方案能力
地平线拥有丰富的算法样例模型，能够为客户提供以芯片+算法+工具链为核心的完整方案，满足多样化场景需求。
地平线提供完整开放的旭日芯片解决方案及“天工开物”芯片工具链，包括丰富的模型和应用示例、可视化性能分析工具、可快速上手的BPU API、高度灵活的HR Runtime API和Platform API，供客户根据需求选择。
3、开放的生态体系
基于边缘AI芯片，地平线致力于打造一个多层次、多维度、多样性的开放生态体系。
▲地平线开放赋能生态体系
在产业链赋能方面，地平线坚持底层技术能力研发，加速普惠AI时代到来；在开发者生态方面， 地平线通过工具链服务降低开发者门槛，助力上层应用产生，以此丰富整个AIoT应用生态。
此外， 地平线也正通过与行业开放社区合作的形式降低开发者门槛，比如地平线加入96Boards社区，并在前段时间，推出基于96Boards SOM规范的边缘AI开发套件BOOTPRINT X2，该套件具有高算力、高效能、感知接口丰富、可扩展的特点。
4、落地能力比同类型产品更灵活高效
地平线主打软硬协同，其芯片具有高MAC利用率，实际任务处理表现更好。
其芯片方案支持新模型优化，如 MobileNet、Faster RCNN。同等算力下，X2 在MobileNetV2之类的新模型上，比海思高端芯片（4Tops 算力）有更好的表现，实际性能更强，且功耗、成本更低。
另外，海思只支持Caffe，而地平线还支持更主流的训练框架TensorFlow。比如科达选择地平线很大程度上源于旭日二代芯片支持TensorFlow。
5、在设备投入和运维上降低成本
得益于边缘计算具有高度可靠、实时处理、灵活部署等特性，地平线可在两方面帮助客户降低成本。
一是设备投入，无需购置大型服务器或占用较大宽带网络。
二是设备运维，进行日常维护，更新迭代方便。
一站式全场景边缘AI芯片解决方案
随后，地平线副总裁、智能物联芯片方案产品线总经理张永谦发布旭日二代AI芯片及解决方案Horizon Hero，包括三类边缘AI芯片解决方案：地平线HeroSights智能摄像机解决方案、地平线HeroSpark通行门禁考勤方案、地平线HeroStream智能分析盒解决方案。
（1）开发多种形态AI产品，满足不同场景需求；
（2）最好的智能与图像场景效果；
（3）快速开发上层智能应用；
（4）快速完成硬件设计；
（5）快速完成系统级整合。
1、边缘计算：本地端即可完成计算，数据无需上传到云端；
2、软硬结合：算法与芯片协同优化，使方案兼具高性能、低功耗特点；
3、端边结合：方案覆盖智能摄像机，面板机以及智能分析盒；
4、全场景一站式方案：完整解决方案支持客户快速应用开发和量产。
图像搭配语音，从像素级感知到时空语义建模，以“人”为本的Horizon Hero AI全场景能力集的全场景能力正在快速形成。
针对客户不同的应用，地平线在算法集合的基础之上，还提供算法策略能力集，以缩短产品开发时间。
为了使客户能够快速地开发应用，地平线打造了端边一体AI嵌入式软件架构，只要在端的模块上加上算法配置和通道管理模块，就可以迅速形成边缘侧的软件架构。
其软件框架跨OS、AI全场景、模块化组件开发框架既支持安卓，也支持Linux，客户可在常用的几类端设备和边缘设备上快速集成他们的应用，这些应用也都具有很强的可复制性、可迁移性。
地平线的芯片既单独向外销售，也通过整体解决方案的方式对外供给。如果客户想选择更熟悉的元器件，地平线也可以帮助他们在元器件上做整合和集成。
地平线还会提供整机智能效果集成支撑能力，包括模块化参考设计、结构与散热设计、原型机重现等。
这是因为光有核心设计仍不够，整体方案的效果还与光照、距离等外部因素有关，针对不同场景，地平线会提供多套不同的产品设计，并为客户集成各种他们需要的模块。
数百家合作伙伴，营收数亿
据张永谦介绍，截至目前，旭日一代芯片已服务数百家客户，营收数亿，交付数十万套方案，实现线下场景服务数千万人口。
▲地平线在 AIoT 领域部分可公开合作伙伴
在地平线商业化加速过程中，有商米、多度、小米、永辉等许多优质客户落地案例。
智慧零售方面，基于地平线针对零售场景的AIoT芯片解决方案，商米推出了AI识客摄像机，可在本地端主动识别进店顾客并进行丰富的属性鉴别，解决商家“看店难”问题，助力精准营销。
智慧社区方面，基于“AI芯片+算法”的一站式AIoT解决方案，地平线与多度联合打造了智慧社区AI智能产品及解决方案。
除了视觉外，地平线在语音领域也有颇多建树，能提供包含麦克风阵列、信号处理、唤醒、语义理解、语音识别、语音合成的全链路解决方案。其语音方案在国内已拿下多个大单。
例如，智能家居方面，地平线为小米一系列语音交互智能设备，提供自主研发的增强语音抽取（Enhanced Speech Extraction，简称 ESE）方案，使得小米音箱在复杂的噪声环境中亦可实现随时打断、随时唤醒，交互体验更为精准、流畅。
地平线的方案将各个环节算法和芯片架构充分结合，通过端云结合，能在端侧更好地解决复杂场景中的语音处理问题。黄畅相信，很快地平线就可以在端上，拿出一个和服务器能够做到的性能相媲美的整套云链路，并将进一步在语音处理与视觉融合上发力。
AIoT应关注两个闭环，拼落地需要综合打法
会后，地平线联合创始人、副总裁黄畅，地平线副总裁、智能物联芯片方案产品线总经理张永谦，接受智东西等媒体的采访。
▲地平线副总裁、智能物联芯片方案产品线总经理张永谦（左），地平线联合创始人、副总裁黄畅（右）
在采访期间，黄畅和张永谦还多次强调，地平线不是单纯的芯片公司，而是通过“芯片+算法”的模式以挖掘更好的性能。相比其他方案，旭日二代芯片整个解决方案的价值最大化在于软件，芯片是技术能力中的重要基石，而在AIoT长尾应用领域的核心成本也是算法。
1、AIoT面临的两大挑战
谈及AIoT的挑战，黄畅认为，我们应该关注两个闭环，一是业务闭环，二是数据闭环。
在AIoT领域赋能传统行业时，很多困境来自缺乏开放性，对自我认知不足，对边界判定不清晰，导致各方无法专注于自身核心能力的打造。如果不能有效地构成业务闭环，就无法让信息进行流动联通。
数据闭环的难处来自于跨行业。传统行业往往很难将与业务场景强相关的数据分享出来，因此对于地平线这样关注基础AI能力建设的公司来说，能否持续去获取真实场景中的数据，经过不断迭代形成一个感知平台，广泛赋能各个业务场景中的一些基础AI任务，这个能力本身也非常重要。
2、真正落地需要一套综合打法
另外，今年的安防展中，AI芯片厂商身影似乎要比往年少。对于这一现象，黄畅并不觉得奇怪。
在他看来，AI芯片距离真正商业化落地还很遥远，过去两年，国内涌现一批造芯热潮，但其中一部分处于PPT造芯，自然今年的声势会弱下去。如今大家更注重落地，地平线也是如此，并不仅仅关注构造一个更加开放的边缘AI计算平台，同时也非常关注面向垂直领域的一站式解决方案。
要做到真正落地需要一套综合打法，是个动态切换、调整的过程。在这个过程中，地平线始终保持较为灵活的姿态和开放的态度，和产业界进行充分合作，根据客户需求进行自我调整。
黄畅表示，相信围绕地平线的核心能力，他们能够去创造价值、提高效率，从而反过来去证明自己共性的价值。
3、多种感知融合成提升交互体验的新趋势
既然自动驾驶AI芯片和视觉AIoT芯片都已推出第二代，那么地平线是否有涉足语音AI芯片的计划？
对此，黄畅告诉智东西，初期地平线曾考虑过这一问题，后来发现传统语音终端芯片中，现有的DSP 、Arm CPU等模块已经足够好，如果延续传统的语音算法，不认为自研处理器会有优势。
地平线看到的契机是通过更高的算力去显著提升语音交互的体验，通过不断将语音算法放到新架构上，从算法层面上加以改进。另外近几年呈现多种感知算法相互借鉴融合的趋势，其语音与图像的运算、处理的方式越来越趋同。
结语：从地平线看AIoT芯片落地三趋势
人工智能和机器学习的爆发，给边缘计算带来了巨大的机会。而地平线选择的自动驾驶和AIoT两条主线，前者被公认为代表人们出行的未来，后者更是广泛应用于人们生活的方方面面。
如今已进入AIoT芯片拼落地的时代，从地平线身上，我们可以看到当前AIoT芯片发展的几个趋势：
1、单芯片性能不再是唯一指标，软件成提升性能的关键手段，通过软硬协同最终带来整体性能提升。
2、芯片开发的易用性更受重视，打造芯片的同时，也通过搭配工具链等方式降低开发门槛。
3、AIoT芯片正走出只秀性能的固有模式，开始同落地紧密结合，提供更方便易用的一站式解决方案。
而这些趋势指向的同一目标，都是尽可能最大程度地方便开发者及企业的需求，通过提供更加开放的赋能服务，吸引更多合作伙伴，为自身生态建设奠定基础。
（本账号系网易新闻·网易号“各有态度”签约帐号）
