MySQL Cluster数据分布/分区,两阶段提交协议及事务资源

数据分布
  • MySQL Cluster自动分区数据表(也可能使用用户自定义分区),将数据分布到分区中.
  • 一个数据表被划分到多个Data Node分区中,数据在分区中被”striped”
  • 主键的hashing决定哪个分区拥有数据(自动分布)
  • 对主键的一部分进行hashing也是可能的(适合sharding和数据局部性)
分区和数据分布
  • 如果有两个数据节点(DATA NODE 1和DATA NODE 2),每个数据表都被分到两个分区中.
  • subid是主键.对主键subid进行的hashing决定分区.当然对主键的一分部分(part of PK)进行hashing也是可能的.
    -奇数主键(绿色部分)
    -偶数主键(红色部分)

副本(Replicas)
  • 为了提供冗余和快速故障转移,分区之间是同步复制的.
  • 最常用的是用两个副本(两份数据)
    - 使用1个,2个,3个,4个副本也都是可能的
    - NoOfReplicas=2

  • 分区间的同步复制是从主分区(PRIMARY)到辅助分区(SECONDARY)
    - 当有一个变更(下图实体圆心表示变更)发生在P0的时候,它将同步复制到S0
    - 这个变更在事务commit的时候被持久化
    - P0或S0将被更新,或什么都不做
数据分布 – 磁盘日志记录(disk logging)
  • 数据在commit之后会在主内存中(main memory)
    - 但是改变(changes)是REDO日志记录的(REDO LOGGED),而REDO日志是每N毫秒(推荐1000ms)刷新到磁盘

    • 由TimeBetweenGlobalCheckpoints参数控制
    • 类似innodb-flush-log-at-trx_commit=2

    - 数据同时被checkpoint到磁盘

  • 磁盘日志记录使得恢复一个完全失败的cluster成为可能
节点组(Node groups)
  • 共享同样数据的节点属于同一个节点组
  • 一个节点组包含节点数等于副本数.(下图使用NoOfReplicas=2)
  • 两个副本-四个数据节点
    • 四个数据节点-四个分区-两个副本
    • 四个节点和两个副本–>两个节点组
      - 节点组数目 = 总节点数 / 副本数
  • 三个副本-三个数据节点
    • 三个数据节点-三个分区
      - 更多的副本,“写”更慢
    • 三个节点和三个副本–>一个节点组(这种方式不常用)
      - 两个副本是惯例
  • 副本使用建议
    • 推荐使用两个副本- 性能和可用性是最好的折衷
    • 三个或四个副本写比较慢,使用这种方式部署相对更少
    • “写”成本
      - 1个副本(没冗余): cost X
      - 2个副本: cost 2X
      - 三个副本: cost 3X
验证数据分布

用法:
ndb_desc -c connect_string tbl_name -d db_name [-p]

mysql> select * from ndbtest.tbl;
+---+
| a |
+---+
| 3 |
| 6 |
| 5 |
| 1 |
| 2 |
| 4 |
+---+
6 rows in set (0.01 sec)

mysql>

两阶段提交协议

关于数据节点
  • 每个节点都有一个活动的Transaction Coordinator(TC)
    - 每个事务都是从TC开始
    - 一个事务包含一个或是多个操作(select/insert/update/delete)
  • 每个节点都有1-4个Local Query Handlers(LQH)
    - 执行操作
  • ACC保存一个哈希表(hash table)
    - 主键和唯一索引
  • TUP保存数据记录
    - ACC的hash索引链接到TUP中的记录
两阶段提交协议(2PC)
  • 2PC便于实现同步复制
    • 确保主分区和辅助分区的数据修改的一致性
    • 行级别”锁”
  • 2PC由两个阶段组成
    • 准备阶段(Prepare Phase)
      - 获取“锁”
      - 更新到阴影复制(shadow copy)
    • 提交阶段(Commit Phase)
      - 使阴影复制成真的复制(real copy)
      - 释放”锁”
  • 2PC协议仅仅参与update/delete/insert操作
  • “读”操作不是2PC的(否则会非常慢,没什么意义)
2PC第一阶段-准备阶段(Prepare Phase)
    • insert into t1(id,data) values(1,’hello’)
      - 两个数据节点,主键hash到主分区P0
      - update/delete操作也适用
    • 2PC协议从主键所指向的主分区P0的TC开始
      • TC从对整个主键进行hash运算(md5sum)开始
        - md5sum(PK)
        - 这样可以得到128位的hash值,分成INDEX_HASH(前64位)和PARTITION_HASH(后64位)
        - 事实上会进行进一步的运算

        • PARTITION = PARTITION_HASH % NO_OF_PARTITIONS
        • INDEX_POS = INDEX_HASH % NO_OF_BUCKETS

        - 实际使用了LH*3算法

      • 这样MySQL Cluster就知道了涉及到哪个节点和分区
      • insert into t1(id,data) values(1,’hello’)
        - INDEX_POS=23
        - PARTITION=P0
    • 在局部的LQH做准备
    • 插入ACC的哈希表(hash table),并将记录写入TUP(给记录分配空间)
      - 现在索引入口(index Entry)就被锁定了

    • 将PREPARE消息发送给辅助分区(S0)的其它LQH,并做同样的事情
    • 将PREPARE OK消息发回给TC
2PC第二阶段-提交阶段(Commit Phase)
  • 首先给远程的LQH(REMOTE LQH)发送COMMIT消息
    - 释放锁定,简化错误处理,等待“锁”的操作可以很快继续

  • 发送COMMIT给P0的LQH
    - 释放“锁”

  • 发送COMMIT OK给TC
  • 发送COMMIT ACK给应用
2PC的失败处理(Failure Handling)
  • 如果事务协调器(Transaction Coordinator)失败了,另一个TC会接管
  • 新的TC会要求节点发送来自失败的TC的未完成事务(outstanding transactions)的清单列表
  • 新的TC会
    - 终止准备阶段(Prepare Phase)的事务
    - 强制提交事务(如果另外的节点已经看到了COMMIT消息)

    • 失败的节点在恢复的时候会获得变更(changes)

事务资源

事务定时器(Transaction Timers)
  • 死”锁”检测–等待”锁”
    - 如果一个事务为”锁”等待太长时间,它会被终止

    • TransactionDeadLockDetectionTimeout=3000[ms]
  • 不活动的事务–正在拥有”锁”
    - 如果一个事务拥有“锁“的时间太长,它会被终止

    • TransactionInactiveTimeout=60000[ms]

    - 不要设置TransactionInactiveTimeout=0

关于”锁”(Locking)
  • 使用的隔离级别是Committed Read
    - 这意味着一个事务将可读到上一次提交的数据,除非是它自己修改这个数据
  • “锁”是在准备阶段(Prepare Phase)获取,在提交阶段(Commit Phase)释放
事务和操作记录(Transaction and Operation Records)
  • 每个事务都要求事务记录-Transaction Record(TR)
    - 在它开始的时候
    - 由MaxNoOfConcurrentTransactions控制
  • 每个操作(Operation)都要求有一个在TC的Operation Record(OR,操作记录)和一个在LQH的Local Operation Record(LOR,局部操作记录)
    - 它属于哪个事务
    - 操作类型
    - 由MaxNoOfConcurrentOperations和MaxNoOfLocalOperations控制
  • 假设:
    - MaxNoOfConcurrentTransactions=3
    - MaxNoOfConcurrentOperations=3
    - MaxNoOfLocalOperations=4

    • 那么默认局部操作(Local Ops)就会比并发操作(Conc Ops)多10%
  • 查询:
    - insert into t1(id,data) values(1,’x');

    • 一次事务
    • 一次操作
事务开始(准备阶段)
  • insert into t1(id,data) values(1,’x');
  • 在TC分配一个事务记录
  • 在TC分配一个操作记录
  • 在LQH分配一个局部操作记录(Local Operation Record)
  • 有很多并行的事务(parallel transactions)
  • 失效切换的错误维度,TRs/ORs不够
  • 事务和操作的参数
    - MaxNoOfConcurrentTransactions=2 X
    - MaxNoOfConcurrentOperations=MaxNoOfConcurrentTransactions X
    - MaxNoOfLocalOperations=1.1 X MaxNoOfConcurrentOperations

    • 默认就是1.1X
    • 很少需要改变这个参数


    转自:http://www.zrwm.com/?p=3210


你可能感兴趣的:(数据库)