经过多年的金融电子化建设,银行积累了大量反映银行经营管理活动的数据,然而,由于早期的信息化建设是个逐步摸索的过程,缺乏统一的规划和信息标准,导致在大多数银行的数据存储中出现了没有统一的数据源、数据孤岛、数据不一致、数据质量不高、安全性低等问题,阻碍了银行经营管理的智能分析。ODS系统就是基于目前银行数据存储的弊端而产生的。ODS(Operation Data Store),即操作型数据存储,是一个面向主题的、集成的、可变的、实时的数据集合,用于支持企业对于即时性、操作性、集成的全体信息的需求。
北京银行的ODS平台完成了各业务系统的数据整合,符合RX.LDM规范的模型设计,并为客户CRM、绩效考核、经营分析、非现场稽核、反洗钱、全行报表等应用系统提供有效的数据支持。随着接入的行内业务系统以及各分行系统的增多,各系统与ODS平台间传输的数据量也在不断加大。
很多交换的数据以文件的形式进行传输、管理和业务处理,而北京银行内部业务系统以及各分行系统间的文件传输如果采用点对点直接传输会导致传输路径不清晰,且数据传输过程中无法统一管理、统计、审计,使系统的运维管理变得非常困难。因此,北京银行需要建设一个专业的文件传输系统,以支持ODS系统底层数据文件的交换。
根据ODS系统的数据交换与管理模式要求,底层文件传输系统需要支持以下的企业级特性:
文件可靠传输:保证文件在两节点间的可靠传输,保证文件在传输过程中不丢、不错、不漏。
任务灵活调度:通过简单的配置实现传输任务灵活调度和自动运行。
传输监控和管理:通过监控界面能够直观地发现系统运行过程中产生的错误或告警;通过查询可以随时统计出传输日志。
用户权限管理:在用户和角色权限管理中,每个用户及其角色在总管理中心由管理员统一分配。不同的操作员只能管理和监控自己权限范围内的节点。
断点续传:在网络等出现故障的情况下,通用传输系统能够从断点续传文件,而不是从头再传。
文件压缩传输:系统支持智能压缩的功能选项,如果要传送的文件本身就是压缩文件,能够被智能识别,从而避免重复压缩/解压,否则能够自动调用压缩传输功能,到达目的地后,应该能自动解压。
安全需求:系统本身要有加密的功能选项,也要提供加密的接口,可以使用用户自己编写的加密算法。
流量控制:系统的其他业务在高峰期时,GTP能够控制两个节点之间数据传输的速度,控制带宽的占用率。
当前,与ODS系统之间存在数据交换的应用系统分布在总行和分行,向ODS提供数据的包括:核心、信用卡、网银、电话银行、信贷系统等,而ODS主动供数的目标主题应用系统包括:CRM、稽核、信贷、管理会计,以及九个异地分行的相关系统。
为了解决各个业务系统和分行间数据文件传输难于管理和统计,规范传输线路,北京银行在ODS平台中使用了东方通的TongGTP来完成文件的传输和管理。
如上图所示,向ODS提供数据的系统、ODS系统,以及各个相关的目标主题应用等三者之间的数据交换,以文件方式进行数据组织和传输。
其中,数据文件的传输,是通过GTP软件来提供自动、定时的传输支持。同时,所有传输会由一个集中的管理控制中心来配置、管理和统计。
TongGTP为北京银行ODS平台中的文件传输模块提供了核心的技术优势,包括:
可靠传输:平台基于消息中间件核心技术,提供传输过程中的可靠保障,能够自动处理各种异常情况,保证系统7*24小时不间断运行,以保护业务系统处理不中断,从而显著节省维护成本;
高效传输:通过各种技术手段,提供传输高效性保障,包括断点续传、自动压缩、多线程等,支持对底层传输进行参数调整,以适应各种网络状况;
安全传输:通过网络层、数据层和操作层的各项措施,实现安全连接、节点认证、数据加密、用户权限管理、身份认证,以及操作审计等功能,提供全面的安全保障机制;
易于管理:基于集中式的管理和监控中心,可以对网络中所有的传输节点进行统一监管,包括对各个节点的传输配置、运行监控、数据跟踪、信息统计,以及对系统操作的安全审计、传输信息的事后审计等一系列的管理和监控;
易于扩展:传输平台中的各个传输节点,采取模块化的设计理念,传输节点上的业务系统,以及传输网络中的各节点均可以动态调整和扩展,以实现对业务随需应变的支撑;
北京银行的ODS平台在文件传输上使用了东方通的TongGTP来实现,使得文件传输更加安全、可靠、高效和易于管理。TongGTP的高可用性、易用性和易扩展性使得用户可以把更多的开发资源投向ODS平台的其他业务实现,为用户节省了资源和各项成本。