中国体彩中心容灾_GoldenGate应用

案例二 中国国家体育总局体彩中心

1) 体彩中心介绍
体育彩票中心是国家体育总局直属机构。1994年3月11日，国务院批准国
家体委在全国范围内发行体育彩票。1994年4月5日国家体育运动委员会体育
彩票管理中心（简称国家体彩中心）正式成立，随之各省市纷纷成立了分中心，
建立了全国公开发行的销售网络。自此，中国体育彩票业开始走上了统一发行、
统一印制、统一分配和集中管理的规范化道路。中国体育彩票历经风风雨雨，从
早期开发到规模发行的中期发展阶段，在筹集体育经费方面发挥着越来越重要的
作用，成为体育产业中的“支柱性产业”。

2) 体彩中心所面临的问题
体彩中心担负着全国各省市体育彩票的发行和管理工作，为了更好的对体育
彩票的发行和管理执行支持，国家体彩中心将全国划分为4个区，在天津、武汉、
广州和成都建立了四个数据分中心分别对本区域内体育彩票销售提供数据服务，
具体为天津分中心负责北京、黑龙江、吉林、河南、山东、山西、天津、辽宁（内
蒙）、河北共10省市，武汉分中心负责浙江、安徽、江苏、上海、湖北、江西共
6省市，广州分中心负责广东、海南、福建、广西、湖南共5省，成都分中心负
责四川（西藏）、贵州、云南、重庆、陕西、甘青宁、新疆共10省市。各分中心
支持一个省市（或多个省市）的数据库均为IBM主机，采用HACMP实现双机互备。

体育彩票的销售数据经过了公证，必须在各种灾难发生时能够保证其完整性
和可用性。体彩中心根据国务院关于容灾备份系统建设的各项精神，在北京建立
灾备中心，将各省市销售数据实时复制到备份数据库，使得体彩中心在各分中心
发生异常后拥有一份可用的备份数据，避免销售数据丢失带来重大经济损失和社
会影响。体彩中心灾备建设的难点在于：

a) 源系统多且分散
31个省市级数据库分布在4个区域中心，如何对这些数据库全部备份是一个
难题，同时要考虑到投资。
b) 带宽较低
在北京灾备中心和四个区域中心之间只有2条2M专线，该区域中心多个省
市的数据库都要经由该链路复制到北京，因此如何有效利用带宽是体彩中心需要
考虑的一个问题。

3) GoldenGate TDM在体彩中心的应用
为了能够便于维护和管理、最小化投资，体彩中心采用了N+1模式的容灾，
将灾备中心选在北京，建立了一个HP Superdome双机组成的Oracle RAC，将所
有省市的数据通过GoldenGate TDM数据复制软件实时备份到此数据库，从而达
到了容灾的目的。系统拓扑参考图如下：
体彩中心灾备系统框图  

在各分中心，体彩中心分别配置了若干台IBM P570h主机为其范围内省市提
供数据服务，每两台组成双机互备，正常情况下一台提供服务，另外一台待用，
准备在当前主机出现问题接替工作。我们为每个省数据库服务器配置
GoldenGate TDM软件抽取模块，实时抓取数据变化，然后通过网络传输到北京
的备份中心。

在灾备中心，配置两台16cpu的HP Superdome组成的Oracle 10g R2 RAC
作为备份数据库。由于体彩中心总数据量约1T左右，每日数据增量总数在20G
左右，使用当前HP双机组成的RAC完全能够满足对所有省市数据库的数据交易
需求。鉴于体彩中心建立数据备份的目的是为了数据容灾，因此我们在目标端为
不同省市建立了不同数据库用户，将各省市数据复制到各自用户下的表中，方便
在发生灾难时通过GoldenGate TDM导出数据并恢复到生产中心。为了在双机环
境下实现节点间的负载均衡，我们将四个备份中心划分为两个组，广州和四川中
心传送过来的数据由节点A承担，天津和武汉分中心的数据由节点B承担，从而
实现RAC双节点共同工作完成所有省市数据的接收。

目前为止，所有复制关系建立起来后，各地体彩数据一直正常复制到灾备中
心，每天产生的复制数据队列为15G左右，每天各分中心数据库产生的日志增量
总和为60G左右。即使在业务繁忙时段，在各分中心与灾备中心之间带宽占用也
不超过300kps，远远低于实际的两条2M带宽，源端cpu使用率在0.1%以下，备
份端cpu使用率在3%以下，数据延时在3秒以内，大大便利了体彩中心实时监
测各地彩票销售信息。

体彩中心灾备系统平均资源占用表：

4) 体彩中心GoldenGate TDM应用的特点
a) N+1灾备模式

体彩中心共30个省市的生产数据库分布在全国四个不同的城市，使用
GoldenGate TDM软件可以将所有省市数据库集中备份到一套备份系统，从而实
现了N+1的备份模式，以较低的成本实现了容灾。GoldenGate TDM N+1模式区
别于其它技术的特点在于其能够实现多个数据库数据向一个数据库的逻辑集中，
从而使得体彩中心在一个库中对全国所有省市彩票销售数据的进行查询和统计，
为今后体彩建立数据仓库和开展BI等业务创造了条件。

b) 远距离低带宽实时复制
体彩中心的四个分中心中，成都和广州距离北京备份中心距离均为2000公
里。在如此远的距离上实现容灾，租用通讯链路的费用是一笔大的投入，而采用
GoldenGate TDM的实时复制方案只需要不到2M带宽，大幅降低了体彩中心在网
络上的投资。在远距离低带宽前提下，GoldenGate TDM数据复制的延迟同样可
以保持在3秒以内，最快甚至不超过1秒，有效保证了体育彩票销售数据的安全。

c) 异构平台支持
体彩中心在分中心和备份中心分别使用了IBM和HP主机，通过GoldenGate
TDM的跨平台特性实现异构的数据复制。GoldenGate TDM这种跨平台复制的特性
为未来系统的扩展提供了便利，使体彩中心在软硬件选择上更加灵活。