寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?

11月14日深圳高交会期间,AI芯片独角兽寒武纪推出面向边缘智能计算领域的AI芯片思元220及M.2加速卡产品,思元220的问世,标志着寒武纪已经具备了从终端(寒武纪1A、1H、1M处理器IP)、边缘端(思元220芯片)到云端(思元100、思元270芯片)完整的智能芯片产品线,在云、边、端实现全方位、立体式覆盖。

寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?_第1张图片

思元220芯片采用了寒武纪最新一代1M架构AI处理器核心,实现最大16TOPS(INT8)算力,整体系统功耗不足10W,能够提供16/8/4位可配置的定点运算,可根据实际应用灵活的选择运算类型以获得更好的AI推理性能。在软件方面,思元220支持寒武纪Neuware软件工具链,支持业内各主流编程框架,包括Tensorflow,Caffe,mxnet,以及pytorch等。

寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?_第2张图片

基于思元 220,寒武纪还推出小尺寸的 思元 220-M.2 边缘加速卡,在尺寸为 U 盘大小的卡片上实现了 16TOPS(INT4)或 8TOPS(INT8)的算力。寒武纪未来还会推针对不同的场景的产品,包括边缘计算、自动驾驶车载计算、训练等场景。

为何大家都专注边缘人工智能?

相比数据中心计算或者说云计算,边缘计算有几个优势:一、大幅降低传输成本。在很多如电力、能源等工业领域,网络条件不好且通讯基础设施的改造成本很高,因此数据直接在边缘进行处理,处理完的数据直接用于边缘决策,或者有效信息传回云端集中决策,这都可以减少传输成本。二、大幅降低延时。边缘计算往往具有实时的要求,因为要对各种设备进行实时决策,而传统的云计算,由于网络延时,很难做到实时。三、保护数据隐私和安全。边缘计算可以无需将数据或者原始数据传回云端,从而可以大大保护数据的安全和隐私,减少数据泄漏。

寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?_第3张图片

数据显示,借助于边缘计算,在人脸识别领域,响应时间由900ms减少为169ms,把部分计算任务从云端卸载到边缘之后,整个系统对能源的消耗减少了30%-40%。数据在整合、迁移等方面可以减少20倍的时间。随着数据雪崩,预测到2025年,全球数据将增长10倍,达到163 Zettabytes,将计算和数据移动到更接近用户的位置是有必要的。

寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?_第4张图片

此外,思元220让寒武纪自此有了完整的智能芯片产品线,在云、边、端实现全方位、立体式覆盖,云端可提供了完整的开发,调试,调优的软件,云端开发好的程序,可以很方便快速的部署到终端和边缘,解决终端和边缘开发难,调试难,调优难的问题,而终端和边缘,可以积累大量的客户和开发者,反哺于云端生态,最终实现云,边,端生态的良性发展。

你可能感兴趣的:(寒武纪首款边缘智能AI芯片来了 为何大家都专注边缘人工智能?)