灵境云 EdgeAIoT 边缘智能万物互联

随着 5G 、物联网、AI 智能的发展，边缘计算逐渐成为一种重要的基础设施和能力，相比于统一云端服务器统一处理的云计算，边缘计算是将网络、计算、存储、应用核心能力部署到靠近数据源头一测。有预计称，2030年互联设备的数量将超过750亿个，这也带动了对边缘计算的强劲需求。

有IDC咨询数据显示：2021年中国边缘计算市场快速成长，边缘服务器需求增幅高达 266.3% ；预计未来边缘算力的投资增速显著快于核心位置，到2025年，全球边缘服务器支出额占总体服务器比重将从14.4% 增至24.9% 。

随着多元化边缘计算业务场景的涌现，对边缘计算的实时性、可靠性、资源利用率、规模等提出了新的要求。越来越多落地的项目要求边缘计算平台拥有更多 AI 计算能力。同时，随着数据的大量传输、运算、处理，“在本地更多推理分析”的需求提升了更高的算力需求。此外，更多连接、更低功耗、更实时性能、更高安全性、更便利开发等要求也随之而来。

如何结合边缘计算发展趋势打造边缘计算一体化解决方案成为一个新课题。

因此灵境云提出“边缘计算 AI智能万物互联系统”，将云端 AI应用、网络、存储、计算等能力下放到边缘节点，公有云能力延伸到靠近终端设备的一端，结合超强计算性能、大容量存储、体积小灵活配置的边缘计算主机硬件、边缘计算智能管理平台，以及灵活可配的多样化 AI 算法库，为客户提供低延时、高性能、安全可靠的智能边缘计算服务。满足各边缘计算业务场景实时性、智能化、信息安全与隐私保护的需求。

应用场景与需求

边缘计算 AI智能万物互联系统，可按业务场景，自行匹配、预装AI算法，满足多样化场景需求，按照当前主流业务发展趋势，边缘计算 AI智能万物互联系统主要应用于下列场景：

智慧园区：应用摄像头、人脸门禁、机器人等多种感知终端设备，通过合理的路线规划，提高园区运作效率，保障园区安全、有序、高效运营。以人工智能技术向园区管理赋能，实现园区可视化、数字化、智能化管理。全面提升园区管理水平及服务能力，在降低人力成本投入的同时提高日常生产运营效能；

工业视觉：基于机器视觉的质检方案，通过云端建模分析与边缘实时决策的结合，实现自动视觉检测，提升产品质量；

智慧市政：智慧市政道路运维平台借助物联网、大数据、AI 算法，边缘计算技术搭建智慧市政基础网，结合种类繁多、功能齐全的各式传感设备，通过 AI 智能学习对道路损坏进行智能化识别、定位、跟踪、监控和集中管理，实现了监测、养护一体化；

智慧工厂：覆盖火力发电、风电场、光伏电站等各类电厂场景，基于 AI 视觉的在线实时分析实现可视化智能巡检、安全生产监管等业务。提供事前解析积累、事中实时追踪、事后线索提取等专业场景化的应用功能，紧密结合发电厂业务场景需求，按需支持光伏板检测、漏液检测等各类识别需求的在线扩展，助力各类电厂提高巡检效率，有效保障电厂的安全稳定运行。

智慧农业：应用于智慧农业平台，实现农业信息数据的边缘计算、分析、处理，整合现有资源，实现大规模生产化管理；同时改善农业生态环境，提高农业就业人数、提高农业生产经营效率，促进产业结构调整；

智慧环保：在大量传感器基础上云计算城市整体环境状况预警预报精准度大幅提高，保障网格化云服务智实现城市环保智能化管理。运营管理方面科学规范运维效率大幅提高，保障运营体系良好长期运作。

架构设计与基本能力

1、系统框架

边缘计算 AI智能万物互联系统将云端 AI 应用等能力下发到现场边缘云，将公有云能力延伸到靠近终端设备的一端，使得边缘节点拥有云端相同的能力，能够实时处理终端设备计算需求。边缘控制器、边缘网关以及边缘云基于云原生的边云协同架构，采用轻量级容器管理、虚拟化等技术构建统一异构数据集成平台。

​图1：边缘计算 AI智能万物互联系统

2、关键技术能力

（1）AI云边协同平台

边缘计算 AI智能万物互联系统提供 AI 边云协同框架，实现跨边云的数据级与算法模型管理，边缘节点算法库可实时获取最新算法模型。同时实现多种边、云协同训练以及推理模式，当前AI算法模型支持跨边云的协同推理、增量学习、联邦学习、终生学习，按业务发展变化适配算法模型。

AI边云协同平台生态开放，支持业界主流的AI框架：TensorFlow, Pytorch, Paddle, Mindspore 等；提供开发者扩展接口，支持快速集成第三方算法。

​图2：AI边云协同平台

（2）边缘计算主机

灵境云打造的边缘计算主机 LJY100 为面向广泛边缘应用场景的轻量边缘设备，具有超强计算性能、大容量存储、配置灵活、体积小、支持温度范围宽、环境适应性强、易于维护管理等特点。LJY100 主要应用于智能视频监控、分析、数据存储等应用场景，可以广泛部署在各类边缘、中心机房，满足在社区、园区、超市等复杂环境区域的应用。

主机特性有：

极高效能比：提供超强边缘 AI 计算 , 支持高达 32TOPS（INT8）和16TFLOPS（FP16）的高精度算力；

超高性能：边缘计算主机 LJY100支持16路1920*1080 30fps 的 H.264/H.265解码，支持8路 1920*1080 30fps的H.264/H.265编码；

采用“云-边-端”架构：云，云端数据中心对边侧设备进行模型推送、能力开发和管理、运维等；边，边缘侧设备对端侧设备采集的信息进行信息提取、存储和上传；端，IPC 或其他端侧设备，进行现场信息采集；

场景丰富：支持各类边缘计算业务场景，智慧园区、安防、商业、交通等多领域多场景灵活部署。

部署简单：针对前端普通 IPC 进行智能改造，无需改变原先监控组网，节本的同时更能省时省力。

​图3：边缘计算主机

​图4：边缘计算主机安装示例

（3）边缘计算智能管理平台

将业务场景中的边缘计算主机、以及关联设备上云，在边缘计算智能管理平台实现主机管理、主机连接的设备管理、算法管理，以及主机设备日志管理与分析，实现算法服务的告警提醒与服务数据查阅。

主机管理：支持将部署在边缘现场的边缘计算主机激活，连接到智能管理平台，实现主机上云。支持查看主机基本信息，修改主机本地密码、系统更新、功耗模式等功能，实时监控主机内存、CPU占用率、GPU占用率，记录主机状态与关联设备的告警信息。

设备管理：支持添加链接主机的设备拓扑关系，对于IPC 设备，支持实时预览直播，配置设备算法，查看设备告警信息与统计。

算法管理：支持客户按业务场景需求，自定义为各个设备配置AI算法，并控制各个主机最大算法任务上限，平台支持按单个设备画面设置算法。

告警管理：集中管理各个设备的算法告警信息，支持按主机、算法、消息类型、设备信息查询告警，平台自动分析告警信息并将分析结果以图表形式反馈给客户。

日志分析：将平台中已有的主机、设备、算法运行情况进行记录，并按记录展示分析图表，让客户快速掌握边缘计算应用整体运行情况。

（4）预装上百种AI算法

边缘计算智能管理平台的算法库中，按照不同业务场景，提供上百种AI算法，支持客户按需求为设备预装算法。覆盖交通、铁路、桥梁、农业、化工、制造业质检、电力、公安、校园、教育、城管、餐饮、工地、停车、社区、安防等多行业。

​图5：预装AI算法列表

​图6：预装AI算法列表

​图7：预装AI算法列表

​图8：预装AI算法列表

3、应用与部署案例

边缘计算 AI智能万物互联系统在2022年为无锡市提供了农村道路巡查、管理、养护一体化解决方案。

解决了区域农路的建设规划、施工质量检测、后期巡查维修养护的问题，将智能化信息技术应用于道路养护中，极大地提高了工作效率，节约了人工成本、减少了人工劳动量，取得的成效非常可观。

道路巡查养护一体化解决方案系统框架，构建覆盖乡镇、县级单位的智慧农路数据平台。按职能划分平台权限。

​图9：道路巡查、管理、养护一体化解决方案系统框架

功能有：

人员管理：包含人员基础信息管理、巡查人员统计、人员考勤系统；

智能养护：包含巡查养护日志信息管理、养护事件处置管理、突发养护巡查发送、智能养护决策管理；

群众监督通道：支持养护质量问卷调查，病害问题一键反馈功能，支持历史反馈信息预览展示、反馈问题处置流程展示；

可视化应急指挥平台：支持监控大屏实时展示、视频接入录制回放、在线巡查人员展示、公路基础设施展示、全域道路病害展示；

工程建设管理服务：包含历史规划文件管理、公路建设合同管理、公路建设资金管理、公路建设材料管理、公路建设成本管理。

产品优势

1、技术创新性

边缘计算 AI智能万物互联系统，在技术上拥有以下创新：

开放兼容：支持多类型异构资源，Linux OS 基于裸机/虚拟机 ARM/X86/RISCVGPU/DPU/FPGA/SmartNIC，且拥有丰富的终端设备接入能力；

AI 边云协同平台：提供AI 边云协同框架，实现跨边云的数据级与算法模型管理。实现多种边、云协同训练与推理模式，包括协同推理、增量学习、联邦学习、终生学习。

支持集成第三方AI算法：支持业界主流 AI 框架：TensorFlow, Pytorch, Paddle, Mindspore 等；提供开发者扩展接口，支持快速集成第三方算法。

安全可靠：覆盖从操作系统、边缘计算智能管理平台、硬件设备到通信通道等全链路的安全防护能力。支持风险预警、设备身份识别等安全管理能力。

2、 效益价值

边缘计算 AI智能万物互联系统，结合软硬件以及AI 智能，为客户提供边缘计算一站式解决方案。助力各个行业从传统到“智慧”的升级。其价值效益主要在以下几个方面体现：

安装便捷：边缘计算主机轻量化无风扇设计，支持灵活配置，易维护；无需改造原有IPC设备组网结构，简易接入边缘计算主机，部署边缘计算智能平台，实现边缘智能化；

海量数据处理：通过边缘计算主机超强计算能力，能准确、快速处理边缘现场的海量数据；

实时服务：边缘计算 AI智能万物互联系统，通过边缘计算主机，实现边缘现场数据低延时响应、处理分析能力，满足当前工业系统检测、控制、执行、新兴VR/AR等应用实时性要求高的应用行业；

数据本地存储：支持将业务现场数据存储在现场，有效解决信息安全问题，部分行业因国家政策、行业特性、数据隐私等因素对数据安全的要求极高，敏感数据不能离开现场，边缘计算 AI智能万物互联系统满足此类行业数据存储和处理在本地完成的需要；

AI 算法：边缘计算 AI智能万物互联系统，提供覆盖交通、铁路、桥梁、农业、化工、制造业质检、电力、公安、校园、教育、城管、餐饮、工地、停车、社区、安防等多行业的上百种AI算法。

3、 行业影响

随着边缘计算发展落地，为适应多业务场景，拥有更多 AI 能力、支持多类型异构资源的边缘计算成为发展重点。

边缘智能万物互联 EdgeAIoT在AI算法建设上拥有独特优势。

边缘智能万物互联 EdgeAIoT建立生态开放的 AI边云协同平台，支持业界主流的AI框架：TensorFlow, Pytorch, Paddle, Mindspore 等；提供开发者扩展接口，支持快速集成第三方算法。已完成构建涉及工业、农业、社区、交通、教育等多行业的 AI 算法池。

同时，边缘智能万物互联 EdgeAIoT提供AI边云协同框架，实现跨边云的数据级与算法模型管理，同时实现多种边云协同训练以及推理模式，例如：协同推理、增量学习、联邦学习、终生学习，不断优化算法模型，实现自动学习、适应发展，按场景业务发展需求适配AI算法。