最后,简单看一下Cobar的实现原理。
首先是系统模块架构。
从上图中可以看到,Cobar的前、后端模块都实现了MySQL协议;当接受到SQL请求时,会依次进行解释(SQL Parser)和路由(SQL Router)工作,然后使用SQL Executor去后端模块获取数据集(后端模块还负责心跳检测功能);如果数据集来自多个数据源,Cobar则需要把数据集进行组合(Result Merge),最后返回响应。整个过程应该比较容易理解,
下面是Cobar的网络通讯模块架构。
从上图中可以看出,Cobar采用了主流的Reactor设计模式来处理请求,并使用NIO进行底层的数据交换,这大大提升系统的负载能力。其中,NIOAcceptor用于处理前端请求,NIOConnector则用于管理后端的连接,NIOProcessor用于管理多线程事件处理,NIOReactor则用于完成底层的事件驱动机制,就是看起来和Mina和Netty的网络模型比较相似。如果有兴趣,大家还可以到Cobar站点的下载页面(http://code.alibabatech.com/wiki/display/cobar/release)获取该项目的源码
本环节测试了基本的MySQL功能,查询,插入等。
数据表分配如下:
在schema.xml中定义了该schema的默认datanode,定义了tb2分布在dbtest2、dbtest3中。默认datanode的作用是存放未指定的表,比如创建tb1,就会默认放在dbtest1中。
在rule.xml中为tb2定义了路由用的partitionCount和partitionLength,会按照特定字段进行分库操作。
insert命令能够按照约定的路由规则插入特定的分库中。
为了简单测试cobar的插入效率,对tb2插入了10W条数据,结果显示要比单机MySQL插入10W条数据稍慢,随后测试16节点cobar插入10W条数据,速度已经和单机插入接近,如果多线程并发执行的话,cobar会有比较大的优势。
对上一步插入的数据进行select操作,每个分库结果会merge在一起但是merge的顺序是不确定的。
同样对cobar中的10W条数据进行查询,结果显示依旧是比单机慢:
Cobar:
单机MySQL:
正常业务中的SQL语句不会仅仅只是insert、select,会用到聚合函数、内外连接、子查询等。官方文档里已经明确说明不支持跨库条件下的这些操作,具体测试如下。
对数据id排序查询,单库中order by可以正常显示,对cobar进行相同的操作,可以返回结果,每个分库的结果集按照各自的order排序,最后merge的时候并不是全部排序,而是随机联接在一起。
sum常用来合计某些字段,count用来计数,都是比较常用的sql关键字。Cobar能够返回sum/count的结果,但依旧是每个分库各自统计。
用子查询也不能合并分库的sum,这两个sql查出来的结果是相同的。
join也是极其常用的sql关键字,但是在cobar中如果切分规则不同的两张表进行join,则构成了跨库。Cobar会报错,提示不存在共同分库中的相应表。而如果两张表采用相同的切分字段,相同的路由规则,那么两者是能够join的。
在测试环境中,tb1不是和tb4相同切分,如果和tb4 join,就会提示不存在dbtest3.tb1。
而如果和tb4切分相同的tb3和它join就可以实现。
exists也可以用,但是也是要考虑在不在一个库中
tb3和tb4是按照相同的分片规则分布在数据库中的
子查询在跨库情况下也是不能实现的,但是如果能够限制过程中使用的都封闭在同一个分库中,那么子查询是可以成立的。
在尝试插入10W条数据的时候,单机用到了存储过程,总共用时50余秒,同样语句用到cobar的时候,会显示语法错误,官方提示没有测试过存储过程,不推荐使用。
现实中有的业务是比较复杂的,功能实现中使用到的SQL语句也可能是很复杂的,可能遇到的问题如下:
实际业务中会有一些读操作很多而对写要求不多的参数表,会频繁地和其他表进行join,但是cobar不支持跨库join,那么可行的方案就是在每个分库中保留一份参数表,以便每个分库都可以合法操作。
但这会带来两个问题:
1.参数表之间需要union操作,但是每个分库中有一份相同表的结果就是union操作不能够除去重复项。
可以在分表的schema外有一个单库的schema,所有对参数表的增删改操作都限制在该库中,其所产生的变化都同步到每个分库中。
2.不同分库的参数表需要同步,那么如何保持参数表的数据一致性也是必须要考虑的问题。
Cobar不支持跨库操作,但是很多操作已经证明只要是封闭在各自分库中就是可以实现的,比如子查询、join等。
那么关键的问题就是如何分库分表,需要按照业务的耦合关系将数据库拆分重组,将不能跨库的操作尽量限制在一个库中。
而且cobar当前的路由算法不一定能够满足复杂业务下的特异性分表方案,所以在有需求的情况下,还需要自定义cobar的路由算法,自定义路由算法需要extends PartitionFunction implements RuleAlgorithm。
但是即使分库分表方案设计完善,还是不能解决sum/count等功能的不完善,需要把每个分库的结果再累加才是需要的结果。
解决这个问题有几个方案:
1.在应用程序中处理,实现比较简单,但是增加了模块间的耦合度,破坏了数据层与应用层的透明。
2.修改cobar源码,识别sql语句,在收到返回信息的时候进行处理。实现难度比较大,但是保持了模块间的低耦合。
本次测试用的是虚拟机,单台虚拟机安装了8个MySQL实例,共实现了16个datanode,虚拟了10W条数据的简单操作,但和生产环境下的硬件条件以及压力情况是有很大区别的,只有在接近生产环境下真正进行了压力测试,才能得出cobar性能好坏的结论。
分布式数据库要实现事务是比较困难的,很多对数据一致性要求不是很严格的场景都放弃了强一致性,而力求达到最终一致性。Cobar对于单库的事务是完全支持的,但是对于分布式事务不保证强一致性,分布式事务采用两阶段执行,即分为执行阶段和提交阶段。
执行阶段:把前端连接上当前事务所使用到的后端连接绑定下来,并执行SQL语句。
cobar的分布式事务具体做到什么程度,在实际应用前还是需要测试的。
Cobar支持基于MySQL的心跳(heartbeat)来实现主备机切换,当检测到主机心跳异常,会自动或手动切换到备机,但是故障排除后切换回主机需要手动,除非备机心跳也异常。
主从复制的过程中一致性的保证也是需要注意的问题。
当MySQL集群需要扩容时,就可能需要数据迁移,Cobar本身没有对数据迁移有很大的支持,也不支持mysqldump备份,需要备份时,必须在每个物理分库进行dump。数据迁移需要应用程序的DAO和Cobar还有后台迁移程序共同配合完成。
通过对cobar的一系列探究,对其有了一定的认识,但是对于这个拥有800个源文件的顶尖数据库开源项目来说,还远远不够。单就应用来说,binlog同步的问题,事务一致性测试的问题,压力测试的问题,路由算法的问题,数据迁移的问题都是需要深入探讨研究的。
Cobar在阿里3年的稳定运行,能够说明它是个成熟的项目,但是同时要意识到,它是契合阿里特定的业务的项目,任何的迁移都是需要论证的;而且在阿里的数据库中间件中,cobar只是上下游中的一环,有可靠的VIP设备,有跨机房同步的数据同步中间件,有先进的分布式消息系统,才能使cobar扬长避短
此外,特别解释一下大家可能比较关心的心跳检测问题,Cobar的心跳检测主要用在以下两个地方。
1、在配置数据节点的时候,我们需要使用心跳检测来探测数据节点的运行状况。Cobar中使用执行SQL的方式来进行探测,简单且实用。例如,我们可以把前面实例中的schema.xml中的dataNode配置成下面的样子。
[html] view plaincopy
1. ... ...
2. <!-- 数据节点定义,数据节点由数据源和其他一些参数组织而成。-->
3. <dataNode name="dnTest1">
4. <property name="dataSource">
5. <dataSourceRef>dsTest[0]</dataSourceRef>
6. </property>
7. <!--Cobar与后端数据源连接池大小设置-->
8. <property name="poolSize">256</property>
9. <!--Cobar通过心跳来实现后端数据源HA,一旦主数据源心跳失败,便切换到备数据源上工作-->
10. <!--Cobar心跳是通过向后端数据源执行一条SQL语句,根据该语句的返回结果判断数据源的运行情况-->
11. <property name="heartbeat">select user()<property>
12. </dataNode>
13.... ...
2、当我们需要对Cobar作集群(cluster),进行负载均衡的时候,我们也需要用到心跳机制。不过此处的配置则是在server.xml中,代码如下:
[html] view plaincopy
1. ... ...
2. <!--组建一个Cobar集群,只需在cluster配置中把所有Cobar节点(注意:包括当前Cobar自身)都配置上便可-->
3. <cluster>
4. <!--node名称,一个node表示一个Cobar节点,一旦配置了node,当前Cobar便会向此节点定期发起心跳,探测节点的运行情况-->
5. <node name="cobar1">
6. <!--Cobar节点IP, 表示当前Cobar将会向192.168.0.1上部署的Cobar发送心跳-->
7. <property name="host">192.168.0.1</property>
8. <!--节点的权重,用于客户端的负载均衡,用户可以通过命令查询某个节点的运行情况以及权重-->
9. <property name="weight">1</property>
10. </node>
11. <!--当前Cobar将会向192.168.0.2上部署的Cobar发送心跳-->
12. <node name="cobar2">
13. <property name="host">192.168.0.2</property>
14. <property name="weight">2</property>
15. </node>
16. <!--当前Cobar将会向192.168.0.3上部署的Cobar发送心跳-->
17. <node name="cobar3">
18. <property name="host">192.168.0.3</property>
19. <property name="weight">3</property>
20. </node>
21. <!--用户还可以将Cobar节点分组,以便实现schema级别的细粒度负载均衡-->
22. <group name="group12">
23. <property name="nodeList">cobar1,cobar2</property>
24. </group>
25. <group name="group23">
26. <property name="nodeList">cobar2,cobar3</property>
27. </group>
28. </cluster>
29.... ...
最后,简单看一下Cobar的实现原理。
首先是系统模块架构。
从上图中可以看到,Cobar的前、后端模块都实现了MySQL协议;当接受到SQL请求时,会依次进行解释(SQL Parser)和路由(SQL Router)工作,然后使用SQL Executor去后端模块获取数据集(后端模块还负责心跳检测功能);如果数据集来自多个数据源,Cobar则需要把数据集进行组合(Result Merge),最后返回响应。整个过程应该比较容易理解,
下面是Cobar的网络通讯模块架构。
从上图中可以看出,Cobar采用了主流的Reactor设计模式来处理请求,并使用NIO进行底层的数据交换,这大大提升系统的负载能力。其中,NIOAcceptor用于处理前端请求,NIOConnector则用于管理后端的连接,NIOProcessor用于管理多线程事件处理,NIOReactor则用于完成底层的事件驱动机制,就是看起来和Mina和Netty的网络模型比较相似。如果有兴趣,大家还可以到Cobar站点的下载页面(https://github.com/alibaba/cobar)获取该项目的源码,感谢阿里人的付出!
最后说点题外话,目前国内关于mysql分布式中间有
360公司的Atlas:http://www.guokr.com/blog/475765/
淘宝的tddl:http://www.guokr.com/blog/475765/
京东的蓝海豚:http://cio.zdnet.com.cn/cio/2014/0731/3028990.shtml?fromrss=rss
网易的DDB:http://wenku.baidu.com/link?url=TiILF6KxWQBUu1bj2n8mA1E-_-RUESzjI7ALpo-mDWXW9uQv-0PCjmJrl9QH6ijP1ycFTXyz3plcrWgXOV80snuIVcMkLYNNKJA3EujCPTG
但是还是阿里的cobar好些,因为他开源了,除了中间件本身,还开源提供驱动、管理器。.
https://github.com/alibaba/cobar/wiki/%E5%B8%B8%E8%A7%81%E9%97%AE%E7%AD%94
写在常见问题里面了:
1.修改WEB-INF/或者源码src/main/resource/中log4j日志输出路径,日志级别调整为INFO及以上 2.将WEB-INF/或者源码src/main/resource/中的cluster.xml, cobar.xml, user.xml,property.xml拷贝到某个固定目录,比如/home/admin/xml/ 3.修改WEB-INF/xmlpath.properties中文件内容为xmlpath=/home/admin/xml/ 4.源码打包,将war包放入web容器执行 5.user.xml记录的初始用户名和密码为root/123456
重启tomcat,进入登陆界面:
输入密码root,123456
进入系统。可以查看配置,访问情况。
同时可以增加cobar节点,节点的密码配置在conf/server.xml里面。
<!-- 用户访问定义,用户名、密码、schema等信息。 --> <user name="test"> <property name="password">test</property> <property name="schemas">dbtest</property> </user>
(http://img.blog.csdn.net/20150302194710221)
增加成功之后在节点管理里面就可以看到了。
修改conf/schema.xml数据库连接地址。
然后启动报错:
#!Cobar#dnTest2 init failure
数据表没有创建。
#创建dbtest1 drop database if exists dbtest1; create database dbtest1; use dbtest1; #在dbtest1上创建tb1 create table tb1( id int not null, gmt datetime); #创建dbtest2 drop database if exists dbtest2; create database dbtest2; use dbtest2; #在dbtest2上创建tb2 create table tb2( id int not null, val varchar(256)); #创建dbtest3 drop database if exists dbtest3; create database dbtest3; use dbtest3; #在dbtest3上创建tb2 create table tb2( id int not null, val varchar(256));
**其中发现一个问题,如果使用Mariadb 5.5 查询不到数据表。
必须使用mysq数据库。我在centos6 上面安装的数据库可以(mysql 5.1.73),在centos7上面的mariaDB数据库就不行(MariaDB 5.5.40)。**
测试数据成功了。
# mysql -h127.0.0.1 -utest -ptest -P8066 -Ddbtest Reading table information for completion of table and column names You can turn off this feature to get a quicker startup with -A Welcome to the MySQL monitor. Commands end with ; or \g. Your MySQL connection id is 2 Server version: 5.1.48-cobar-1.2.7 Cobar Server (ALIBABA) Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved. Oracle is a registered trademark of Oracle Corporation and/or its affiliates. Other names may be trademarks of their respective owners. Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. mysql> show tables; +------------------+ | Tables_in_dbtest | +------------------+ | tb1 | | tb2 | +------------------+ 2 rows in set (0.00 sec) mysql> insert into tb1 (id, gmt) values (1, now()); Query OK, 1 row affected (0.02 sec) mysql> insert into tb2 (id, val) values (1, "part1"); Query OK, 1 row affected (0.01 sec) mysql> insert into tb2 (id, val) values (2, "part1"), (513, "part2"); Query OK, 2 rows affected (0.03 sec) mysql> select * from tb1; +----+---------------------+ | id | gmt | +----+---------------------+ | 1 | 2015-03-02 19:36:18 | +----+---------------------+ 1 row in set (0.01 sec) mysql> select * from tb2; +-----+-------+ | id | val | +-----+-------+ | 1 | part1 | | 2 | part1 | | 513 | part2 | +-----+-------+ 3 rows in set (0.00 sec)
cobar 初步测试已经完成了。已经很好的解决了水平扩展和垂直扩展。
而且只需要修改配置就可以实现。完全可以平滑的切换过去。
作为程序员之所以被称为“Code Farmer”,足以说明离开code说事是难以说通的。还是直接上code吧。下面是一段shell脚本。在/etc/init.d/ 目录下创建名为cobar的文件,并给与授权“chmod u+x cobar”.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
|
#!/bin/bash
#
#chkconfig:2345 80 90
#description:cobar
set JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.65.x86_64
set PATH=$JAVA_HOME/bin:$PATH
set CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
start(){
sh /home/cobar-server-1.2.7/bin/startup.sh
}
stop(){
sh /home/cobar-server-1.2.7/bin/shutdown.sh
}
restart(){
sh /home/cobar-server-1.2.7/bin/restart.sh
}
case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
esac
|
当然关于startup.sh,shutdown.sh以及restart.sh这几个脚本的路径和Java环境变量还是以个人目录为准。
执行以下Linux命令:
1
2
|
chkconfig --add cobar
service cobar start
|
当然停止Cobar即用命令service cobar stop,重启便是service cobar restart
1
|
chkconfig cobar on
|