TiDB 助力广发银行零售信贷业务管理平台成功上线

导读

TiDB 助力广发银行在 2024 年 10 月正式上线新零售信贷业务管理平台, 成功把数据库从原 IBM DB2 迁移到 TiDB 分布式数据库上 。这也是继总账系统后,TiDB 在广发银行成功上线的又一重要系统。

TiDB 凭借其弹性水平扩展能力和 HTAP (混合事务/分析处理)功能,能够有效应对零售信贷业务的混合型复杂业务场景,解决传统数据库的扩展性和架构复杂性问题,提升了系统的稳定性和处理效率。通过精细的迁移方案和高可用架构设计, 广发银行确保了零售信贷系统的高效运作和数据一致性,为未来的业务扩展奠定了坚实基础


对原生分布式 HTAP 数据库的需求日益凸显

零售信贷业务涵盖了联机交易、报表业务和批量处理等多样化业务类型,是一个典型的混合型复杂业务场景。面对传统集中式数据库在扩展性上的局限,业内普遍将业务部署在多套独立的集中式数据库上,这种做法引发了数据冗余、架构复杂性增加和数据实时性下降等问题。

为了解决这些问题,广发银行的新平台数据库需要具备强大的水平扩展能力和 HTAP(混合事务/分析处理)功能。经过细致的调研和评估,银行最终选择 TiDB 作为零售信贷业务管理平台的数据库解决方案:

  1. 弹性水平扩展 :TiDB 的原生分布式架构提供了弹性的水平扩展能力,允许根据业务需求灵活调整计算和存储资源,以适应不同迁移阶段的资源配置需求。
  2. HTAP 能力 :作为一款原生 HTAP 数据库,TiDB 集成了行存和列存引擎,并实现了物理隔离。这种设计使得 TiDB 能够通过统一的计算引擎,根据不同业务请求灵活调度相应的存储引擎,有效减少数据冗余,显著降低系统开发复杂性,并提升 7*24 小时系统运行的稳定性。

通过采用 TiDB,不仅提升了零售信贷业务的效率和稳定性,还为未来的业务扩展和技术创新奠定了坚实的基础。

TiDB 助力广发银行零售信贷业务管理平台成功上线_第1张图片

保障数据完整性的迁移是应用成功的基础

本项目涉及到多套 DB2 数据迁移到 TiDB 的实施,因此需要合理规划一套投产前和切换当天的数据迁移方案,结合投产计划和业务数据的改变特性,设计了 T+5(T5) 和 T+0(T0) 两个阶段,T5 完成全量数据的提前同步和校验,T0 完成 T5 阶段与切换之间的增量数据同步和校验。每批次的迁移流程包括:导出、导入、数量比对、字段比对、规则校验、健康值核验、业务报表核验 7 个步骤,流程图如下:

TiDB 助力广发银行零售信贷业务管理平台成功上线_第2张图片

迁移流程详解:

  1. 规则配置 :预先设定数据导入、调度和校验规则,明确导出和校验的数据内容。
  2. 数据导出与存储 :从源库导出 T5 全量数据和 T0 增量数据,存储于 NAS 数据缓冲区。
  3. 数据访问 :利用 HIVE 通过外表方式访问 NAS 中的数据缓存。
  4. 数据加载 :使用 Lightning 工具将 NAS 中的数据高效加载至目标 TiDB 数据库。
  5. 数据校验 :通过 Spark 结合预定义的校验规则,对 TiDB 数据与 DB2 及导出文件进行七步校验流程,包括数量比对、字段比对、规则校验、健康值核验和业务报表核验。特别地,利用 Spark 的缓存特性,在校验过程中无需中间落盘,直接输出比对结果与失败样例,快速识别并定位数据错位、丢失或格式问题。

迁移成果 :整个迁移流程的严密设计和执行,保障了系统的顺利投产。在不影响原有业务系统运行的前提下,T5 阶段的全量数据迁移和校验在线上完成。T0 阶段的增量数据迁移和校验仅耗时约 20 分钟。

通过精心策划的数据迁移方案,不仅确保了银行的业务连续性和数据的一致性,还为零售信贷业务的未来发展奠定了坚实的数据基础。

高可用方案设计

针对零售信贷新平台业务需求,银行采用了 TiDB 三地三中心高可用架构,使用 TiCDC 完成跨中心数据高可用。整体架构采用存算分离的松耦合架构,存储引擎同时配置行存和列存两种引擎。应用采用同城双中心部署的高可用架构。

TiDB 助力广发银行零售信贷业务管理平台成功上线_第3张图片

  • 主机房主集群采用单机多实例部署模式,数据为 3 副本高可用架构,每个副本一个独立机柜,实现机柜+服务器级的高可用容灾方案,前端借助 F5 实现应用到数据库之间的高可用负载均衡链接。
  • 备机房备集群部署架构同主集群,部分应用连接到备集群执行。当主机房异常时,可快速切换到备集群运行,承载全业务流量。
  • 异地灾备集群为最小规模配置,达到远程灾备的容灾高可用能力。

自主可控,全面提升零售信贷新活力

该系统自上线以来,所有应用服务持续正常运行,系统基础设置运行稳定,实现了 100% 的成功率。TiDB 在整个方案中承载零售信贷新平台的数据基础底座能力,实时支撑业务系统的 7*24 小时在线业务、夜间跑批和报表查询。TiDB 为行方零售信贷系统带来的收益如下:

  • 解决业务痛点 :新一代信贷平台在 TiDB 分布式集群内部仅用 1 套数据库,帮助信贷业务实现松耦合结构,解决了存量 DB2 数据分散和孤岛问题;
  • 核心性能提升 :新平台利用 TiDB 的 HTAP 能力,显著降低了整体批处理时间,较原系统减少近 2 小时。
  • 高可用容灾能力 :新架构采用 TiDB 的原生分布式高可用性,超越了原系统 DB2+PowerHA+共享存储的局限,提供了更高级别的弹性和可用性。
  • 降本增效 :通过 TiDB 替换原有的多套集中式数据库,减少了数据冗余,为开发和系统运维带来了显著的效率提升和成本节约。
  • 自主可控 :全栈国产化技术栈的选择,经过严格测试和实际验证,确保了系统的成熟度和安全性。
  • 降低平台切换的初期投资 :利用 TiDB 内置的迁移工具,平滑迁移了原有异构数据库的历史数据,有效降低了平台切换的初期成本。
  • 弹性扩展能力 :TiDB 的存算分离架构,允许系统根据业务需求灵活扩展,满足不断增长的业务需求。

TiDB 在广发银行零售信贷系统中的应用,不仅提升了系统性能和可用性,还实现了成本效益和自主可控的目标,也为银行的业务发展提供了坚实的数据支撑。

你可能感兴趣的:(tidb分布式数据库)