sofa流计算引擎

五:

SOFA微服务生态中,微服务治理中心治理着数以千计的微服务集群,其对集群的治理策略需要根据集群服务器的实时主机状态,和单位时间窗口内的服务调用计算决定。微服务治理中心的职责主要在于治理服务,收集并计算各服务的健康指数应该由第三方组件完成,因此,SOFA流计算引擎应运而生。

SOFA流计算引擎在SOFA生态中的位置如下图:

sofa流计算引擎_第1张图片

SOFA流计算引擎,实时不间断的收集数以千计的服务器集群的主机状态信息及服务调用信息,并根据一系列算法,对数据进行清洗,聚合,计算,最后生成健康指数结果,返回至分布式消息总线,最后由服务治理中心获取用以做服务治理策略,在此过程中,元数据流入计算引擎,到计算结果的生成流出,数据延迟在毫秒级,保证了服务治理中心获取集群节点健康指数信息的实时有效性。


六:

SOFA流式计算平台产品定位于为用户提供可接入,低门槛,易部署的实时计算解决方案。平台整体采用微内核+组件的架构方式,内核为SOFA流计算引擎,并配备容器运行,资源管控,监控&UI,统一接入4大组件。SOFA流式计算平台整体架构图如下:


sofa流计算引擎_第2张图片



SOFA流计算引擎:

作为平台核心组件,支持fail场景下的自动恢复,内部使用无锁+事件驱动模型实现高性能计算与网络传输,数据计算延迟秒级,集群部署规模可达上千台,整合各种数据存储服务而无需额外的数据集成开发工作,包括SOFA恒河数据库,kafka,hbase,mysql,redis等。

资源管理:

抽象计算资源池,逻辑层实现租户分组隔离,保证用户使用的安全性与独立性。同时,根据计算拓扑组件的运行情况,实现动态资源分配。

虚拟容器管理:

精确至cpu,内存级的计算资源控制,物理层完全隔离提供最有效的防护,一键式部署,轻松实现对集群的弹性扩容操作。

统一接入:

1) 平台支持java,python,shell,php等多种语言接入,并提供了接入kafka,hbase,mysql等基础开发工具包,也可直接把输入,输出源抽象成数据库表,以简单sql的方式直接完成实时数据的处理,简易的接入方式,良好的开发体验隔离了使用者对流计算开发的细节,而专注于自己的业务逻辑处理上。

2) 同时平台提供RPC的方式,用于实时计算并响应具有大运算量的任务。

3) 友好的交互界面,使用者可轻松实现对部署容器的监控和管理操作。

SOFA流式计算平台产品特性一览:


sofa流计算引擎_第3张图片

服务运行依赖环境:

1,基础运行环境:  linux内核3.8以上。

2, hdfs集群 ,采用hadoop2.6.0以上版本:用于提供流式计算引擎工作环境

3,分布式协调中间件:采用Sokeeper,用于实现流式计算引擎主从节点的协调,以及资源管理组件的HA。

你可能感兴趣的:(sofa流计算引擎)