https://mp.weixin.qq.com/s/pFocdxhY0IkwwgV6XI_WVw
什么?你们的测试是小哥哥?那就不要往下看了,让他们怎么难怎么来。
根据你的业务特点,单表 > 分区 > 单库分表 > 分库分表,在满足业务前提下,优先级从左到右,不接受任何反驳。嘿嘿
做过分表的(单库分表或者分库分表)都知道,在你没有依赖任何中间件之前,使用Navicat或者其他类似工具操作MySQL,那将是灾难,如下图所示:
sharding table view
如果是类似取模这类简单算法分表还好说,能一眼根据分片键知道分表结,比如根据用户ID对128取模分表,那么用户ID为128的用户数据就在表tb_user_0中。但是如果是采用类似一致性hash算法或者更复杂的分表算法,那么我们首先需要利用程序根据分片键算出分表结果,然后再到Navicat中对该表进行CRUD。
刚才提到的只能搞定带有分片键的操作,对于那些没有带有分片键条件的操作,例如查询最新的10条数据,那真的只能呵呵了。开发尚且如此困难,测试小姐姐能不哭嘛。马云爸爸说:哪里有困难,哪里就有机会。所以,这就是你和测试小姐姐拉近机会、表现自己的时候。当然不是要你送下面这辆奔驰大G给小姐姐,毕竟不是每个人都是王思聪。不过利用我们所学,给测试小姐姐解决一些问题,还是可以的嘛(这种机会都不抓住,活该你单身):
本文要介绍的,可以优雅解决这个问题的工具就是 sharding-proxy(MyCAT也有类似工具,只是易用性简直就是渣渣)。话不多说,我们先来看看部署sharding-proxy前后使用Navicat访问MySQL的对比效果图,开不开森,激不激动:
image.png
所以,sharding-proxy能带来什么呢?先说优点吧:
完全屏蔽sharding细节,把它当做一张普通的表增删改查即可(分表算法集成在sharding-proxy的配置文件中,用户不需要care)
打开数据库后,不再是看到满屏的表,而是只有几张简单的表(如上图左侧所示)。
一个sharding-proxy可以代理多个数据源,测试只需要对接一个sharding-proxy即可。
再说缺点:
无法操作"设计表",即不能看到DDL。但是可以通过F6快捷键后show create table table_name查看表结果(以Navicat为例);
sharding-sphere不支持的语法(非常有限),也不能在Navicat上操作。
是不是感觉很厉害的样子,OK,让我们花10分钟给测试小姐姐一个惊喜吧(部署sharding-proxy)。
部署sharding-proxy非常简单,只需如下几个简单的步骤。另外,本次部署以sharding-proxy-3.0.0版本为例。
下载地址:https://github.com/sharding-sphere/sharding-sphere-doc/raw/master/dist/sharding-proxy-3.0.0.tar.gz
下载后解压,我们看到只有简单的三个目录:lib目录就是sharding-proxy核心代码,以及依赖的JAR包;bin目录就是存放启停脚本的;conf目录就是存放所有配置文件,包括sharding-proxy服务的配置文件、数据源以及sharding规则配置文件和项目日志配置文件。
lia目录没什么好说的。bin目录里面就是window或者Linux环境启停脚本。sharding-proxy启动的默认端口是3307,如果要自定义端口(比如3308),执行sh start.sh 3308
即可(window环境修改start.bat即可)。所有重要的配置都在conf目录下。
logback.xml
首先就是最简单的日志配置文件logback.xml,笔者对其简单的修改了一下,你可以任意自定义,这个没什么好说的,非常简单。
server.xml
接下来就是与sharding-proxy服务相关的配置文件server.yaml,笔者的配置文件如下所示:
orchestration:
name: orchestration_afei
overwrite: true
registry:
serverLists: 172.29.3.245:2181,172.29.3.245:2182,172.29.3.245:2183
namespace: orchestration_afei
# 用户通过Navicat访问sharding-proxy的用户名密码
authentication:
username: afei
password: afei
# sharding-proxy相关配置,建议sql.show设置为true,方便定位问题
props:
max.connections.size.per.query: 1
acceptor.size: 16
executor.size: 16
proxy.transaction.enabled: false
proxy.opentracing.enabled: false
sql.show: true
config.xml
接下来就是最重要的数据源以及sharding规则配置文件config-*.xml了。需要说明的是,一个sharding-proxy实例能支持多个数据源,只需多个config.yaml即可。例如支付和账户两个数据源,那么添加两个配置文件即可:config-pay.yaml,config-account.yaml,配置参考:
schemaName: afei
dataSources:
afei:
url: jdbc:mysql://172.29.2.239:3311/afei?serverTimezone=UTC&useSSL=false
username: afei
password: afei
autoCommit: true
connectionTimeout: 10000
idleTimeout: 60000
maxLifetime: 1800000
maximumPoolSize: 50
shardingRule:
tables:
# tb_batch_trade_detail的分表算法是根据trade_id对128取模
tb_batch_trade_detail:
actualDataNodes: afei.tb_batch_trade_detail${0..127}
tableStrategy:
inline:
shardingColumn: trade_id
algorithmExpression: tb_batch_trade_detail${trade_id % 128}
# tb_repay_file_detail的分表算法是在RepayFileDetailShardingAlgorithm中自定义
tb_repay_file_detail:
actualDataNodes: afei.tb_repay_file_detail${0..127}
tableStrategy:
standard:
shardingColumn: project_no
preciseAlgorithmClassName: com.afei.sharding.RepayFileDetailShardingAlgorithm
bindingTables:
# 默认数据库没有分的策略
defaultDatabaseStrategy:
none:
# 默认表没有分的策略
defaultTableStrategy:
none:
defaultKeyGeneratorClassName: io.shardingsphere.core.keygen.DefaultKeyGenerator
对应自定义分表算法,只需要将对应算法的class文件放到conf目录下即可,参考目录结构:
com
├── afei/sharding/RepayFileDetailShardingAlgorithm.class
config-pay.yaml
config-account.yaml
logback.xml
server.yaml
这个自定义分表算法的源码非常简单,参考sharding-sphere中的分表,实现自己的算法即可,参考源码:
import io.shardingsphere.api.algorithm.sharding.PreciseShardingValue;
import io.shardingsphere.api.algorithm.sharding.standard.PreciseShardingAlgorithm;
import java.util.Collection;
public class RepayFileDetailShardingAlgorithm implements PreciseShardingAlgorithm {
private static final int SHARDING_COUNT = 128;
@Override
public String doSharding(final Collection availableTargetNames, final PreciseShardingValue shardingValue) {
String hashCode = String.valueOf(shardingValue.getValue().hashCode());
long segment = Math.abs(Long.parseLong(hashCode)) % SHARDING_COUNT;
for (String each : availableTargetNames) {
if (each.equals( "tb_repay_file_detail"+segment )) {
return each;
}
}
throw new UnsupportedOperationException();
}
}
Navicat
接下来只需要让测试小姐姐用Navicat连接上sharding-proxy即可:IP地址就是你部署sharding-proxy的地址,端口就是sharding-proxy服务的端口,默认3307。分库分表这些细节全部让sharding-proxy屏蔽的,是不是测试小姐姐会感觉你棒棒哒:
Navicat connect sharding proxy