摘要：本文主要是探讨OLAP关系型数据库框架的数据仓库平台如何设计双集群系统，即增强系统高可用的保障水准，然后讨论一下GaussDB(DWS)的容灾应该如何设计。
当前社会、企业运行当中，大数据分析、数据仓库平台已逐渐成为生产、生活的重要地位，不再是一个附属的可有可无的分析系统，外部监控要求、企业内部服务，涌现大批要求7*24小时在线的应用，逐步出现不同等级要求的双集群系统。
数据仓库主流数据库平台均已存在多重高可靠保障措施设计，如硬盘冗余的raid设计、数据表冗余、节点备用冗余、机柜备用数据交叉等，以及加上服务进程高可用冗余设计，其最大化程度满足数据仓库服务持续在线。
但现实场景，如数据库软件缺陷、定期加固补丁、产品迭代、硬件升级这些产品现实因素，以及来自机房、数据中心、地域、网络的外部灾难故障因素，均在降低数据仓库可用性服务水平。
鉴于数据仓库存在大量数据吞吐，针对不同数据库、不同可用性要求，若需要设计双集群冗余设计，可选技术手段分别有数据同步模式、双ETL模式、双活模式，具体探讨如下：
1.数据同步模式
a)架构
由于数据库IO能力有限、且两个数据库间带宽有限，除了首次全量同步之后，后续通常考虑增量同步技术，即如何准确、高效获取“变化数据”，一般存在日志同步技术、备份增量同步技术、逻辑数据同步；
b)日志同步技术
日志同步技术，有业内最著名Oracle Golden Gate，大部分厂家也有自己的实现方式，像Teradata近年来推出Unity CDM（变化数据广播）技术，而我司GaussDB for DWS可采用xlog及page进行变化数据同步。
优势：直接同步变化数据增量，数据量少，要求带宽低，但目前市面技术大都只适合数据每日变化量较少的数据仓库环境；
劣势：现实的技术门槛高，应对各类异常场景适应能力差，对主数据库侵入性能要求高，一旦主库繁忙，同步时效低；面对全删全插等变化数据量大场景，同步吃力；
c)备份增量同步技术
主要利用各数据库平台备份恢复能力，进行数据增、全量备份、恢复；通常源库备份数据压缩之后，经网络传输后，解压恢复到目标库；对应GaussDB for DWS可采用roach备份恢复工具实现；
优势：利用同一技术实现增、全量数据同步，逻辑清晰，各场景容错能力强；
劣势：要求数据库支持增备能力，且往往锁等待严重；
d)逻辑数据同步
该项主要涉及较高的业务侵入性，即充分获取ETL调度数据流元数据，对应数据库当日数据稳定之后，发起数据表导出-导入操作，针对数据表加工特性，选择增全量同步规则，进行数据准实时同步。
优势：较上述同步技术，可以实现多样选择性同步，同步过程由实施项目本身控制，做到表级数据同步，不需要全系统同步，即可实现部分业务双集群；
劣势：客户化同步逻辑，操作前置依赖多，实施投入人力多，较难推广；
2.双ETL模式
a)架构
即采用两套独立调度平台进行数据加工，抽取同一个数据源（往往是落地稳定的数据交换平台），采用同一套ETL代码依赖逻辑调度，各自生成目标数据，往往批量过程中，采取主库对外持续服务，待主备库数据准实时或批后校验一致后，再开放备库对外服务。
若双集群数据发生不一致场景，主要以主库数据为准，覆盖备库。该同步过程，需要使用到“数据同步模式”相关同步技术。
b)参照落地架构
c)加载源数据考虑
为保证两套ETL调度加载数据源一致及数据复用，往往要求搭建一个数据交换平台。因为至少存在一个文件被两套调度读取，要求数据交换平台两倍过往吞吐能力；且禁止加载的数据文件被二次覆盖，导致两套系统加载不一致；
d)调度依赖顺序考虑
由于ETL作业调度关系没有配置完备，即存在A作业使用B作业的数据，但不配置依赖关系（绝大部分的情况是A作业可容忍B数据的时效，是否最新数据均可以使用，故为时效，业务上不配置依赖关系；当然也存在物理时间上，通常B远远早于A执行），导致两套系统A作业生成数据不一致。
该场景下，在一套调度平台无法发现此问题，但存在两套系统的校验比对，即发现数据不一致；
该问题建议用户补全依赖关系，确认执行顺序一致性；
当然若希望灵活使用依赖关系，则需二次开发，控制两套调度当日时序一致性；
e) ETL代码服务器考虑
为了避免两套ETL调度代码维护不一致，需考虑统一维护渠道，包含不限于同一个代码存储源、版本服务器，以及代码变更时机
f)存在不确定值的SQL函数返回
ETL代码中往往存在sample、random、row_number排序这种同一份数据产生不同结果集的函数，造成两套系统数据不一致；
该问题建议用户使用替代函数、明确取值、唯一排序，确保最终数据一致性；
同时，该设计逻辑正确情况下，哪份数据均可被业务采信，若该数据对下游影响少，可每日批后从主库同步备库，拉平数据；
g)报错修数逻辑考虑
其中一套系统的数据发生报错、修数行为，会涉及到另一套系统的维护行为；
可选作法是保留操作逻辑，待另一套系统发生报错时重复执行一次；
其它交给数据质量校验（DQC）、数据校验去复查；
h)干预重跑修数逻辑考虑
若批后重跑，两套系统重跑逻辑一致，涉及重复劳动（或支撑平台优化），相对简单；
但涉及批量过程中发现部分数据需要重跑，由于两套调度进度不一致，会导致
i)数据校验
i.校验时机
批后校验，逻辑清晰，对调度依赖少，即根据整体调度进度，做到分层、分库或整体数据校验；
准实时校验，即侵入调度环节，在每个作业完成时，均发起日志解析，提取每个SQL影响记录数，若相应作业SQL存在影响记录数不一致场景，即中止较晚完成的调度平台调度后续作业；
ii.校验手段
增全量校验，即针对不同加工逻辑的数据表，区分增、全量数据值，以最小代价覆盖所有业务表
iii.校验方法
通常作法有记录数、汇总值、checksum校验；
汇总值校验，通过是数值型字段直接sum、字符型计算字符长度的sum、时间类型则转换成数值相加的比对；
Checksum校验，针对全表或部分字段，进行md5或hash运算，完成两套系统一致性比对；
对于关系型数据库，校验开销代价逐步递增（记录数 < 汇总值 < checksum校验）；往往是结合增量校验、结合重要指标，区分维度校验，日常增量逻辑校验，定期全量校验，在校验数据一致性和系统性能之间取得平衡点。
j)优化考量
i.校验改进
即嵌入调度平台，提取ETL代码运行日志，通过执行SQL影响的记录值，实时进行两套系统完成作业日志比对，发现记录值影响，立即停止备库调度，采用人工或自动方式修复数据，继续后续批量。
该作法最大好处是，即时发现数据异常，避免问题放大，保障备库更高可用性；
ii.引入统一维护平台
即减少人为双系统维护操作，代码变更平台化，修数逻辑平台化，由平台分别下发两套调度平台、两套数据库。
3.双活模式
以下基于Teradata Unity产品理念的延伸构想
a)架构
b)双活功能点
i.访问路由能力
客户端直接将中间件作为数据库登陆，保持原来登陆逻辑不变；
中间件根据登陆用户及附加参数实现拒绝登陆、双系统登陆、或单系统登陆，实现写登陆、读登陆，实现受控方式登陆、或非受控方式登陆；即实现受控和非受控方式的系统读写；
同时兼顾考虑异常路由选择或同步路由选择，满足最大化异常执行及少部分同步需求场景；
ii. SQL分发能力
经中间件发送的SQL指令，正常发送到相应数据库，并接受数据库响应信息；
iii.批量导入、导出能力
针对数据大批量的导入，需要考虑采用更加高效的加载协议进行数据加载，并考虑经中间件复制数据块，异步分发两个数据库；
数据导出，需要考虑高效数据导出协议，从其中一套数据库正确导出数据；
iv.更新类SQL校验能力
Delete、Update、Insert、Merge等更新类DML SQL进行SQL影响记录数校验；
DDL/DCL执行返回码验证一致性能力；
v.对象注册功能
通过路由及创建对象的DDL语句，实现对象动态注册；
通过命令行指令实现对象注册；
适当增加对象索引、约束索引的注册信息，用于扩展细粒度对象锁能力，提高数据仓库ETL SQL并发能力；
*数据仓库环境下，只需要考虑到表级双活的能力，不建议实施字段级、记录级双活；
vi.对象锁能力
根据SQL指令给相应对象动态加锁、释放锁；
同时根据数据库自带的锁特征，至少区分读、写锁控制，以及部分数据库的脏读功能锁；
vii.对象状态控制能力
进行管理的多套数据库在线状态控制；
进行对象状态控制功能，包含不限于在线、离线、只读、只写、主动中断缓存中、被动中断缓存中、不可用等状态；
viii. 缓存能力
进行SQL指令流缓存能力，以及缓存恢复执行的能力；
进行SQL与加载数据结合缓存、以及缓存恢复执行的能力；
ix. SQL异常控制能力
考虑用户体验，始终由返回响应正确的SQL指令返回客户端；
两个数据库返回均成功，但返回的影响记录数不一致，则响应慢的数据库对应SQL及涉及对象被设置成不可用状态；
若两套数据库其中一套执行成功，另一套执行失败，则执行失败的数据库SQL和涉及对象被设置为被动中断缓存中，同时缓存SQL，定时重试SQL；
若两套数据库返回均报错，才通知客户端报错；
若SQL涉及对象已处理非在线状态，则新提交的SQL被缓存，新提交SQL相应对象被设置为被动中断缓存中。
针对中间件和数据库之间，存在数据库已执行完、但中间件未收到信号场景，需考虑闪环该场景（如增加事务锁等）；
c) Teradata Unity参照落地架构
ü 主要通过Unity实现多集群SQL、数据分发与管理；
ü Data Mover实现集群间数据同步；
ü Eocsystem Manager实现数据批后自动校验及不一致重同步事件触发；
ü Viewpoint实现系统平台透视图展现与维护，并对接用户告警平台；
d)中间件高可用考虑
由于引入了中间件（前置）服务，即该服务的稳定、可靠对双活模式至关重要。
数据库单套系统本身已经具备极高的可用性，引入中间件后，由于所有数据库访问行为均通过该中间件，中间件任何异常均同时影响两套数据库访问能力。
除了中间件本身所有相关服务需要满足高可用之外，还需考虑极端场景下bypass能力，此项能力在于极端异常条件下，可以保障系统持续服务的能力。
高可用场景中，存在控制节点脑裂与自动升主场景，需借鉴仲裁机制减少脑残裂发生；
e) 数据重同步考虑
即利用“数据同步模式”相关同步技术，实现两套数据库数据重同步能力；
f)不确定值的SQL函数考虑
最佳方案，是采用“数据同步模式”的数据日志重同步技术，直接将第一套数据库SQL执行结果的日志信息同步到第二套数据库中，消除返回结果不一致；
部分简单的系统时间函数，直接通过中间件改写，保障SQL执行结果一致性；
另外，则通过SQL改写，保证row_number函数进行主键或全字段排序，保证SQL执行结果一致性；
g)异常会话重放能力
针对异常会话过程的SQL，可能需要从会话建立后，可视化选择，倒回前几个SQL重新执行，并指定过程SQL是否参与结果集校验，以及SQL回放结束的确认动作，让异常场景处理手段更加丰富。
4.适用场景
a) “数据同步模式” – 日志同步技术
适用数据变化量小、数据传输压力小的数据场景，通常只适用于小型数据仓库平台；
对于规模小的平台，RPO、RTO可以接近0；
b) “数据同步模式” – 备份增量同步技术
适合大数据量同步场景，实现方式容易被用户理解；
往往需要数据库备份工具具备增量备份恢复能力；同时考验备份工具消除相关硬件限制条件，让该技术方案更加灵活；
双集群的初始化同步往往采用全备全恢的逻辑实现，可以最大化、最快拉平存量数据；
对于规模大的平台，RPO往往需要小时级别，RTO最好水准也在分钟、10分钟以上；同时主集群需要保障一定资源量供数据同步使用，对主集群开销大；
c) “数据同步模式” – 逻辑数据同步技术
适用灵活同步场景，往往数据同步量不会太大，或同步时间可容忍场景；
此场景往往适合于用户对其数据仓库ETL过程元数据信息清晰、完整，依赖客户开发能力，相关同步数据存在清晰ETL算法，结合调度作业运行进度，动态发起相关数据表增、全量同步；
对于中等规模的平台，RPO可以做到分钟、半小时，RTO可以维持在分钟级；
d) “双ETL模式”
需要两套ETL调度环境，整体成本翻倍，但调度逻辑清晰、易于理解和维护；
较容易匹配不同规模的数据仓库平台采纳；
较难实现数据实时比对，以及数据发生不一致之后的控制逻辑（若需要实现，对于调度逻辑侵入性大）；
ETL调度批量中途，较难实现两套调度链路协调重跑；
同时数据不一致，依赖于”数据同步模式”技术辅助实施；
由于主备调度进行不一致，无法做到主备统一视图展现；
若双集群硬件相当，RPO、RTO均可以维持在分钟级别；
e) “双活模式”
需要独立中间件、且严重依赖数据库自身厂商，中间件实现难度大；
中间件的高可用（稳定性）成为它落地的最大障碍；
“双ETL模式”的升级版，能适应各类数据仓库双集群场景；
绝大部分场景下，RPO、RTO均可以接近0，特别是双活同时在线能力，不存在双集群的主备切换，RTO可以做到0；同时存在统一视图，不会因为其中一个集群故障，造成前后同一个查询返回结果不一致场景；
5.总结比对
接下来，我们展开讨论一下GaussDB(DWS)的容灾应该如何设计。
对于方案探讨中涉及到几种形态，从数仓内核的角度去分析一下各个方案的问题：
- 日志同步技术：
- 列存数据不记日志无法通过日志来同步
- 支持列存xlog后会导致导入性能劣化，xlog数据量大，同时会影响日志同步效率
- 备份增量同步技术：
- 无法达到 RPO = 0
- 备集群只能读，无法支持写操作
- 逻辑数据同步技术：
- 列存数据需要支持逻辑解码，需要从列存XLog的方向进行演进
- 分布式事务，DDL等处理难度较大
- 备份/恢复
- 不能马上提供服务，RTO时间较长
- 需要较大空间保存备份集
GaussDB(DWS) 当前在备份增量同步和备份/恢复两个方向进行演进，他们都是基于备份/恢复工具Roach
(详情参见Roach备份恢复GaussDB(DWS))
- 备份/恢复
备份/恢复的原理图如下，在各个结点将实例备份到相应的介质上，并从介质上恢复到新集群或老集群中。详细的功能不在此处展开描述，大家可以参考(详情参见Roach备份恢复GaussDB(DWS)) 来了解细节。
对于实现容灾要求，需要解决的问题大体分三类：
- 快速的备份恢复
高性能备份、恢复操作保证在较短的时间内将数据迁移到另一个集群，对于RPO/RTO要求不大的系统来说实现和使用非常简单。
- 备份恢复在集群可用的情况下即可进行，不受单点故障的影响
备份恢复在集群可用的情况下就可以进行，集群只需要保证有可用副本就可以持续的进行备份，并且可以正常恢复。
- 备份集的可靠性
备份集需要存储在可靠的存储上，类似 OBS/NBU, 由于磁盘故障率相对比较高，类似备份集保存在磁盘上是非可靠的方案。
- 双集群备份增量同步技术
当前GaussDB(DWS)使用在备份/恢复的双集群架构来实现容灾，将生产集群的数据使用增量的方式同步到容灾的集群。
在这种架构下需要解决如下问题：
1.减少RPO
备份恢复无法达到与流式的同步方式的RPO， 做不到RPO=0的程度。
2.备集群的可用性问题
- 备集群支持持续读/写
备集群是物理恢复的方式，无法支持写的操作的；但是在恢复过程中是可以支持持续读的，当前在恢复过程中需要停集群后将备份集中文件覆盖。
- 备集群集群恢复失败可回退到一致性状态
在恢复过程中会出结点故障，备份集损坏等等问题，会造成当前的恢复过程无法执行过去，此时需要回退到恢复前的状态，保证备集群的可用性。
- 备集群恢复不受单点故障影响
对于备集群来说，也会出现各种单点故障的情况，实例故障，结点故障，CN剔除等情况下，仍然可以把集群恢复成可用的状态。
- 备集群支持备份
备集群可以支持备份，用于扩展一些其它功能，实现类似多AZ，异地的容灾。
3.备份集管理
- 备份集生命周期管理
容灾是实现数据同步的功能，并非一个备份恢复场景，并不需要保存大量备份集以及周期的去做全量备份，因此需要有一个机制实现备份集及时清理，保证占用资源可按。
- 备份集的可靠性
在容灾过程中，同样考虑备份集的可靠性，防止备份集损坏情况，可以通过可靠的介质来保存备份集，又能保证可靠的读写性能。
- 持续增量数据同步
保持持续的增量备份，类似升级前后，扩容前后，都要保持增量备份来保证同步的性能。这里隐含着一个显而易见的原因，如果全量备份的话，备份时间长，并且恢复进会将集群清空，此时容灾集群不可用，这个严重影响可用性。可以说避免全量备份是基于Roach的双集群容灾一个重要工作。
4. 双集群切换及Failover
- 快速切换
双集群的应用场景中，类似滚动升级，故障演练，此时需要切换两个集群，切换时要保证快速将两边数据拉平，尽快提供服务并保证可用性。
- Failover及之后的加回操作
由于RPO != 0，所以在生产集群无法提供服务时,容灾集群在Failover操作后会提供读写服务，此时会有一部分数据丢失，并在两个集群的数据产生了“分叉”，那么在生产集群恢复后，加回之后中要将“分叉”的数据进行回退，以保证两边数据一致。
5. 异构的支持
此处异构是指逻辑结构DN数量一致，而CN数、结点数可以不相同的情况，众所周知是由于当前方案是物理备份方式，因此如果DN数量发生变化，无法从物理层进行重分布操作。
以上说明的几点都是基于可靠性的角度来分析，还有一个重要的因素是基于数仓的数据量和集群规模，不论备份/恢复方案还是在此基础上的双集群备份增量同步的方案，对于网络带宽，介质的读写性能有较高的要求，因此需要根据集群规模和数据增量来选择合适的组网方式和介质。
本文分享自华为云社区《GaussDB(DWS)的容灾应该如何设计》，原文作者：Puyol 。