时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?

来源:数据工匠俱乐部   作者:蔡春久

上接前3部分内容介绍:什么是时序数据?如何治理?

四 时序数据应用场景

时序数据在各行各业有着广泛应用的,例如在电力行业智能电表、电网发电设备集中监测;在石油化工行业油井、运输管线运输车队的实时监测;在园区,在智慧城市实时路况、卡口数据路口流量监测,在金融行业交易记录、存取记录ATM、POS机监测,智能安防(楼宇门禁、车辆管理、井盖、电子围栏)、应急响应(消防、人群聚集、危化品、结构健康、电梯)等。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第1张图片

时序数据在各行业应用场景

1、智慧城市、能源行业智能应急指挥和融合通信调度

智慧城市、智慧工厂智能应急指挥和融合通信指挥调度方案是采用数字化BIM+GIS+NBIOT+AI+5G+算法技术,围绕监控、指挥、调度、会议、通讯等多种功能合一的可视化指挥调度方案。在突发事件预警、上报、响应、指挥等各个环节实现及时有效的可视化指挥,满足突发事件现场实时图像传送和视频会商的快速响应需求。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第2张图片

应急指挥和融合通信指挥调度方案

2、园区智能巡检和安防

在各种园区日常巡检、隐患上报、三维地图以及融合调度上有很多应用场景。设备管理运行状态、HSE风险等级、工艺流程、过程控制运行参数等检修情况各类业务现场及管理实时数据及信息的直观展示,及时发现问题,分析原因,提出整改建议,并贯彻执行。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第3张图片

智能巡检和安防应用场景

可燃气体、烟雾、电气火灾全方位监控;火灾感应、视频监控、消防水全链路联动;起火、报警、疏散、灭火全流程覆盖。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第4张图片

设施全域物联,安全数据说话

3、能源行业设备智能运维

物联网平台还可被应用于对海量设备终端的统一管理与运维,对设备的状态进行在线监测与诊断,并及时进行故障预警。还可以通过多维图表展示运维数据等。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第5张图片

设备智能运维

五 时序数据处理工具(系统)需要具备哪些功能?

与通用的大数据处理工具相比,它具备什么样的特点呢?

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第6张图片

物联网平台与大数据平台关系

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第7张图片

覆盖云、管、边、端的全景式能力矩阵

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第8张图片

时序数据流向图

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第9张图片

从数据采集到应用的端到端物联网平台

1、必须是高效的分布式系统

工业互联网产生的数据量巨大,比如,全国有5亿多台智能电表,每台智能电表每隔15分钟采集一次数据,全国的智能电表一天就会产生500多亿条记录。这么大的数据量,任何一台服务器都无法处理,因此时序数据处理系统必须是分布式的、水平扩展的。为降低成本,一个节点的处理性能必须是高效的,需要支持数据的快速写入和快速查询功能。

2、必须是实时的处理系统

对于互联网大数据的应用场景,大家所熟悉的都是用户画像、推荐系统、舆情分析等,这些场景并不需要数据计算具有实时性,批处理即可。但是对于工业互联网大数据的应用场景,则需要基于采集的数据做实时预警、决策,延时要控制在秒级以内。如果没有实时计算,则其商业价值就大打折扣。
3、需要运营商级别的高可靠服务

工业互联网系统对接的往往是生产、经营系统,如果数据处理系统宕机,则会直接导致停产,无法对终端消费者正常提供服务。因此,时序数据处理系统必须是高可靠的,必须支持数据实时备份,必须支持异地容灾,必须支持软件、硬件在线升级,必须支持在线IDC机房迁移,否则服务一定有被中断的可能。

4、需要高效的缓存功能
在绝大部分场景中,都需要能快速获取设备当前状态或其他信息,用以报警、大屏展示等。时充数据处理系统需要提供高效机制,让用户可以获取全部或符合过滤条件的部分设备的最新状态。

5、需要实时流式计算
各种实时预警或预测已经不是简单地基于某一个阈值进行的,而是需要通过将一个或多个设备产生的数据流进行实时聚合计算(并且不只是基于一个时间点,而是基于一个时间窗口进行计算)。不仅如此,计算的需求也相当复杂,因场景而异,应容许用户自定义函数进行计算。

6、需要支持数据订阅
时序数据处理系统与通用大数据平台比较一致的地方是,同一组数据往往有很多应用都需要,因此,时序数据处理系统应该提供订阅功能:只要有新的数据更新,就应该实时提醒应用。而且这个订阅也应该是个性化的,容许应用设置过滤条件,比如只订阅某个物理量5分钟的平均值。

7、实时数据和历史数据的处理要合二为一

实时数据被存储在缓存里,历史数据被存储在持久化存储介质里,而且可能依据时长,被存储在不同的存储介质里。时序数据处理系统应该隐藏背后的存储介质,给用户和应用呈现的是同一个接口和界面。无论是访问新采集的数据还是10年前的老数据,除输入的时间参数不同外,其余都应该是一样的。

8、需要保证数据能持续、稳定地写入

对于物联网系统,数据流量往往是平稳的,因此数据写入所需要的资源往往是可以估算的。其中变化的是查询、分析,特别是即席查询,有可能耗费很多的系统资源,不可控。因此,时序数据处理系统必须保证分配足够的资源以确保数据能够写入系统而不被丢失。准确地说,时序数据处理系统必须是一个写优先系统。

9、需要支持灵活的多维度数据分析
对于联网设备产生的数据,需要进行各种维度的统计分析,比如根据设备所处的地域进行分析,根据设备的型号、供应商进行分析,根据设备所使用的人员进行分析等。这些维度的分析是无法事先设计好的,而是在实际运营过程中,根据业务发展需求定下来的。因此,工业互联网大数据平台需要一个灵活的机制来增加某个维度的分析。

10、需要支持数据降频、插值、特殊函数计算等操作
原始数据的采集可能频次较高,但在具体分析时,往往不需要对原始数据进行分析,而是需要对数据进行降频。时序数据处理系统需要提供高效的数据降频操作。不同设备采集数据的时间点是很难一致的,因此,分析一个特定时间点的值,往往需要插值才能解决,系统需要提供线性插值、设置固定值等多种插值策略。

11、需要支持即席分析和查询
为提高数据分析师的工作效率,时序数据处理系统应该提供命令行工具或容许用户通过其他工具,执行SQL查询,而不是非要通过编程接口。并且查询分析结果可以很方便地被导出,以及被制作成各种图表。

12、需要提供灵活的数据管理策略
一个大的系统,其中采集的数据种类繁多,而且除采集的原始数据外,还有大量的衍生数据。这些数据各自有不同的特点,有的采集频次高,有的要求保留时间长,有的需要保存多个副本以保证更高的安全性,有的需要能快速访问。因此,工业互联网大数据平台必须提供多种策略,让用户可以根据特点进行选择和配置,而且各种策略并存。

13、必须是开放的
时序数据处理系统需要支持业界流行的标准,提供各种语言开发接口,包括C/C++、Java、Go、Python、RESTful等,也需要支持Spark、R、MATLAB等,方便集成各种机器学习、人工智能算法或其他应用,让大数据处理平台能够不断扩展,而不是成为一个数据孤岛。

14、必须支持异构环境
大数据平台的搭建是一个长期工作,每个批次采购的服务器和存储设备都会不一样,时序数据处理系统必须支持各种档次、各种不同配置的服务器和存储设备并存。

15、需要支持边云协同
时序数据处理系统要有一套灵活的机制将边缘计算节点的数据上传到云端,根据具体需要,可以将原始数据、加工计算后的数据,或仅仅符合过滤条件的数据同步到云端,并且同步可以随时取消,同步策略可以随时修改。

16、需要单一的后台管理系统

单一的后台管理系统便于查看系统运行状态、管理集群、管理用户、管理各种系统资源等,而且能让系统与第三方IT运维监测平台无缝集成,便于统一管理和维护。

17、便于私有化部署
因为很多企业出于安全及各种因素的考虑,希望时序数据处理系统采用私有化部署。而传统的企业往往没有很强的IT运维团队,因此在时序数据处理系统安装、部署上需要做到简单、快捷,可维护性强。

六 时序数据的采集难点分析

时序数据的采集一般都是通过传感器自动进行的,包括光电、热敏、气敏、力敏、磁敏、声敏、湿敏、电量等不同类别的工业传感器。就某一个具体的物理量而言,数据采集是很容易的。但就整个系统而言,数据采集是相当复杂的,具体表现在以下几个方面:

1、工业数据的协议不标准

在现实场景中,往往会出现ModBus、OPC、CAN、ControlNet、Profibus、MQTT等各种类型的工业协议,而且各个自动化设备生产及集成商还会自己开发各种私有的工业协议,导致在实现工业协议的互联互通时出现极大的难度。很多开发人员在工业现场实施综合自动化等项目时,遇到的最大问题即是面对众多的工业协议,无法有效地进行解析和采集数据。

2、通信方式不统一

由于历史原因,采集的数据往往会通过局域网、蓝牙、Wi-Fi、2.5G、3G、4G等各种传输方式被传送到服务器中,导致各种通信方式并行存在,连接管理变得复杂。

3、对现有MES系统的数据获取难度大

在工业企业实施大数据项目时,数据采集往往不是针对传感器或者PLC,而是从已经完成部署的MES系统获取。这些系统在部署时厂商水平参差不齐,大部分系统是没有数据接口的,文档也大量缺失,大量的现场系统没有点表等基础设置数据,使得对于这部分数据采集的难度极大。

4、安全性考虑不足

传统的工业系统都运行在局域网中,安全问题不是考虑的重点。若需要通过云端(特别是公有云)调度工业行业中核心的生产数据,又没有充分考虑安全问题,则很有可能造成难以弥补的损失。

根据上述原因,企业在实际采集数据时,往往配有工业互联网网关盒子,该盒子支持各种物理接口、通信协议和工业标准协议,将不同协议进行转换,对数据进行安全加密,统一以MQTT(Message Queuing Telemetry Transport,ISO/IEC PRF 20922)协议或其他协议发往云端。

对于数据采集部分,因为标准性不够,就不对具体工具做介绍了。

七 时序数据处理流行工具

采集后的数据一般通过网络被送往服务器或云端进行处理。相对数据采集工具而言,数据处理工具比较统一,下面对几个流行的工具进行介绍。

1、以PI为代表的实时数据库

从20世纪80年代起,就涌现一批实时数据库(时序数据库的一种),专门用于处理工业自动控制或流程制造行业的实时数据。其中美国OSIsoft公司的PI(PlantInformation)实时数据库最典型,它提供成套的工具,包括实时写入、实时计算、存储、分析、可视化、报警等系列功能,GE、Simens、Honeywell都有类似产品。国内有庚顿、朗坤、麦杰、力控等产品。这些产品在一定程度上满足了工业数据处理的需求,但在测点数量暴涨、数据采集频率不断提高的大数据时代,传统实时数据库暴露出以下问题:

1)没有水平扩展能力,数据量增加,只能依靠硬件的纵向扩展解决。

2)技术架构老旧,很多还是运行于Windows系统中的。

3)数据分析能力偏弱,不支持现在流行的各种数据分析接口。

4)不支持云端部署,更不支持SaaS。

5)在传统的实时监控场景,由于对各种工业协议的支持比较完善,实时数据库还占有较牢固的市场地位,但是在工业大数据处理上,因为上述几个原因,几乎没有任何大数据平台采用它们。

下面对几个典型的实时数据库进行介绍。

1、InfluxDB

InfluxDB由Golang语言编写,也是由Golang编写的软件中比较著名的一个,在很多Golang的沙龙或者文章中可能都会把InfluxDB当标杆来介绍,这也间接帮助InfluxDB提高了知名度。InfluxDB的主要特点包括:

  • schemaless(无结构),可以是任意数量的列

  • 可扩展(集群)

  • 方便、强大的查询语言

  • Native HTTP API

  • 集成了数据采集、存储、可视化功能

  • 实时数据Downsampling

  • 高效存储,使用高压缩比算法,支持retention polices

  • 数据采集支持多种协议和插件:行文本、UDP、Graphite、CollectD、OpenTSDB

InfluxDB是时序数据库中为数不多的进行了用户和角色方面实现的,提供了Cluster Admin、Database Admin和Database User三种角色。

2、Graphite

Graphite是分布式时序列数据存储数据库,容易扩展,具备功能强大的画图Web API,提供了大量的函数和输出方式。主要功能包括:

  • 存储数值型时序列数据

  • 根据请求对数据进行可视化(画图)

Graphite本身不带数据采集功能,但是你可以选择很多第三方插件,比如适用于collectd、Ganglia或Sensu的插件等。同时,Graphite也支持Plaintext、Pickle和AMQP这些数据输入方式。

Graphite使用了类似RRDtool的RRD文件格式,它也不像C/S结构的软件一样,没有服务进程,只是作为Python library使用,提供对数据的create/update/fetch操作。Google、Etsy、GitHub、豆瓣、Instagram、Evernote和Uber等很多知名公司都是Graphite的用户。

3、OpenTSDB

这是一个Apache开源软件,是在HBase的基础上开发的,底层存储是HBase,但其依据时序数据的特点做了一些优化。其最大的好处就是建立在Hadoop体系上,各种工具链成熟,但这也是它最大的缺点,因为Hadoop不是为时序数据打造的,导致其性能很一般,而且需要依赖很多组件,安装部署相当复杂。

OpenTSDB采用Schemaless模式,不用预先定义数据结构,因此写入灵活,但每个时间序列只能写入一个采集量,不支持多列写入。每个序列可以被打上多个标签,以方便聚合操作。总的来讲,OpenTSDB的性能无论是写入还是查询,都很一般,而且系统的稳定性欠佳。但吸引人的是,它支持集群部署和支持水平扩展。

以腾讯的CTSDB时序数据库为例,CTSDB是腾讯云推出的一款分布式、可扩展、支持近实时数据搜索与分析的时序数据库。该数据库为非关系型数据库,提供高效读写、低成本存储、强大的聚合分析能力、实例监控以及数据查询结果可视化等功能。整个系统采用多节点多副本的部署方式,有效保证了服务的高可用性和数据的高可靠性。CTSDB 在处理海量时序数据时具有的优势包括:

  • 高并发写入:数据先写入内存,再周期性的 Dump 为不可变的文件存储。且可以通过批量写入数据,降低网络开销

  • 低成本存储:通过数据上卷(Rollup),对历史数据做聚合,节省存储空间。同时利用合理的编码压缩算法,提高数据压缩比

强大的聚合分析能力:支持丰富的聚合查询方式,不仅支持 avg、min、max 等常用的聚合方式,还支持 Group By、区间、Geo、嵌套等复杂聚合分析。

4、TDengine

这是来自中国的开源软件,由涛思数据研发推出。它不仅是一款时序数据库,而且还提供缓存、消息队列、数据订阅、流式计算等系列功能,是时序数据的全栈技术解决方案。而且它不依赖任何第三方软件,安装包只有1.5MB,使系统设计、安装、部署和维护都变得极为简单。

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第10张图片

时序大数据系统技术框图

时序数据有哪些应用场景?处理工具(系统)需要具备哪些功能?当前时序数据处理流行工具有哪些?_第11张图片

时序数据的全栈解决方案

TDengine充分利用了时序数据的特点,因此具有很强的优势,具体表现在5个方面:

1)无论是插入,还是查询,性能都高出许多。

2)因为性能超强,其所需要的计算资源不及其他软件的1/5。

3)采用列式存储,对不同数据类型采取不同的压缩算法,所需要的存储资源不到其他软件的1/10。

4)无须分库、分表,无实时数据与历史数据之分,管理成本为零。

5)采用标准SQL语法,应用可以通过标准的JDBC、ODBC接口插入或查询数据,学习成本几乎为零。

总结

企业级的时序数据处理,首先是基于数据架构和数据模型的。数据架构决定了哪些时序数据需要采集,如何处理,用于哪些业务场景,用于时序数据采集的规划与设计开发;数据模型用于解析时序数据的数据结构。

通过物联网平台的能力支撑,可以实现对存量设备与新增设备的统一接入,兼容利旧。AI能力与数据分析能力下沉到边缘端,也可以提升现有业务的响应速度,支持实时智能分析。

本文参考《数据治理:工业企业数字化转型之道》时序数据章节相关内容

你可能感兴趣的:(数据治理,大数据,数据库,经验分享)