mysql主从复制、读写分离到数据库水平拆分及库表散列

web项目最原始的情况是一台服务器只能连接一个mysql服务器(c3p0只能配置一个mysql),但随着项目的增大,这种方案明显已经不能满足需求了。

Mysql主从复制,读写分离:

mysql主从复制、读写分离到数据库水平拆分及库表散列_第1张图片

上面的方案使用mysql-Proxy代理,分发读写请求,写操作转发到Mysql主服务器,读操作转发到Mysql从服务器(多个),Mysql主服务器数据有变动时,会把变化以二进制的形式写入到log日志里,然后Mysql从服务器再从log日志中读取变化数据,以完成数据同步。

缺点:因为Mysql分发代理和Mysql主服务器都只有一台,一旦宕机就不行了,即很不稳定。


改进方案:

1,把tomcat和mysql代理放一台服务器上,比如一个项目有10台App服务器,每台服务器上都有tomat和Mysql-Proxy,进行数据库操作时,tomcat先连接本机上的myql代理,代理帮忙转发到各个mysql

2,同时,为了使mysql主机可靠,mysql主机也要配置多台,为了实现这种功能,要在多台myql主机之前配置负载均衡服务器,同时为了保证负载均衡服务器的可靠性,还要配置负载均衡—备机。虽然mysql主机有多台,但要保证只有一台会把数据变化写入到log日志里。


缺点:

1,会有数据延迟,比如mysql主机被写入修改了数据,但mysql从机还需要时间进行同步

2,比如运行一年之后,mysql主机上已经有了1千万条数据,并且这些数据都会被同步到所有从属mysql上,因为mysql对千万级别数据查询会变慢,导致mysql集群性能都会大大降低。


进一步改进方案,即数据库水平拆分及库表散列:

水平拆分一种方案:

比如有3个分片数据库服务器,每一个都有一个备机,每一组主机和备机数据都会同步。(至少一半的服务器效率浪费了)

(当资源有限时,可以把A分片数据库和B分片数据库的备机放在同一个服务器上,B数据库和C数据库的备机放到同一个服务器上....这样稳定性虽然降低了,服务器使用效率提高了)

然后一个用户表,因为id经常是数据库自动生成的,所以在新增用户数据的时候id是未知,不能根据id进行水平拆分。

可以根据用户用字段username.hashCode()返回一个int型数据,然后Math.abs()取绝对值,然后再% 1024取余数,这样获得的结果result就是0~1023

然后当0 <= result && result < 333时,把数据存放到第一个数据库,当333 <= result && result < 666时,把数据存放到第二个数据库,当666 <= result && result < 1024时,把数据存放到第三个数据库。


具体一些的代码:

①首先在spring配置文件application-context.xml中配置6个数据源:

	
	
		
		
		
		
		
		
		
		
		
		
		
	
	
	
		
		
		
		
		
		
		
		
		
		
		
		
	
        一共类似6个

②引入配置的6个数据源(3组,每组一个主数据库一个备数据库):

	
    
		
			
				
					
					
					
					
					
					
					
					
					
				
				
					
					
					
					
					
				
				
					
					
					
					
					
				
			
		
		
		
			
				
			
		
	
③继续在application-context.xml中配置路由规则

	
	
    
	
		
		
			
				
			
	    
		
			
				
				classpath:/dbRule/sharding-rules-on-namespace.xml
			
		
	
其中,sharding-rules-on-namespace.xml:


	
		User
		
		hash.applyUser(username) == 1
		partition1
	
	
		User
		hash.applyUser(username) == 2
		partition2
	
	
		User
		hash.applyUser(username) == 3
		partition3
	
HashFunction.java:

public class HashFunction{
	/**
	 * 对三个数据库进行散列分布
	 * 1、返回其他值,没有在配置文件中配置的,如负数等,在默认数据库中查找
	 * 2、比如现在配置文件中配置有三个结果进行散列,如果返回为0,那么apply方法只调用一次,如果返回为2,
	 *   那么apply方法就会被调用三次,也就是每次是按照配置文件的顺序依次的调用方法进行判断结果,而不会缓存方法返回值进行判断
	 * @param id
	 * @return
	 */
	public int applyUser(String username) {
		//先从缓存获取 没有则查询数据库
		//input 可能是id,拿id到缓存里去查用户的DB坐标信息。然后把库的编号输出
		int result = Math.abs(username.hashCode() % 1024);//0---1023
		System.out.println("hash:" + result);//333
		if(0 <= result && result < 256){
			result = 1;
			System.out.println("在第1个数据库中");
		}
		if(256 <= result && result < 512){
			result = 2;
			System.out.println("在第2个数据库中");
		}
		if(512 <= result && result < 1024){
			result = 3;
			System.out.println("在第3个数据库中");
		}
		return result;
	}
}


找了几个比较好的关于水平拆分的博客:

http://www.cnblogs.com/Creator/p/3776110.html

http://dryr.blog.163.com/blog/static/582110132010422115946413/

你可能感兴趣的:(java服务器集群)