模拟实现一个基于zookeeper怎么解决单点故障的案例。
单点故障问题,在分布式系统中是一个很有可能发生的场景,比如说在Hadoop2.x之前的HDFS的NameNode和MapReduce的JobTracker的单点故障,当然这个问题已经在Hadoop2.x中得到解决,解决的方式,大部分是基于Zookeeper来实现的。另外一个例子,在Hbase中的Hmaster的单点问题,也是使用Zookeeper解决的。
下面,我们先来看下,简单的实现图:
总结流程如下:
序号 | 描述 | 1 | 创捷父节点类型为Persistent | 2 | 创捷子节点类型为ephemeral + sequential | 3 | 客户端启动时创建子节点 | 4 | 序列号最小的子节点选为master,其他子节点都是slave | 5 | 每个slave侦听序列号比它小的子节点中最大的子节点的NodeDeleted事件 | 6 | 一旦NodeDeleted事件被触发,该slave客户端会重新选定侦听对象,如果不存在可侦听对象,该slave自动晋升成master |
代码,如下:
- package com.automicswitch;
- import java.nio.charset.Charset;
- import java.nio.charset.StandardCharsets;
- import java.text.SimpleDateFormat;
- import java.util.Collections;
- import java.util.Date;
- import java.util.List;
- import java.util.concurrent.CountDownLatch;
- import org.apache.zookeeper.CreateMode;
- import org.apache.zookeeper.WatchedEvent;
- import org.apache.zookeeper.Watcher;
- import org.apache.zookeeper.ZooDefs.Ids;
- import org.apache.zookeeper.ZooKeeper;
- import org.apache.zookeeper.data.Stat;
- import com.util.ConnectionWatcher;
- /**
- * 模拟Zookeeper实现单点故障
- * 自动切换
- * @author 秦东亮
- *
- * ***/
- public class Slave implements Watcher{
- /**
- * zk实例
- * **/
- public ZooKeeper zk;
- /**
- * 同步工具
- *
- * **/
- private CountDownLatch count=new CountDownLatch(1);
- private static final Charset CHARSET=StandardCharsets.UTF_8;
- public Slave() {
- // TODO Auto-generated constructor stub
- }
- /**
- * hosts,
- * zookeeper的访问地址
- *
- * **/
- public Slave(String hosts) {
- try{
- zk=new ZooKeeper(hosts, 7000, new Watcher() {
- @Override
- public void process(WatchedEvent event) {
- // TODO Auto-generated method stub
- if(event.getState()==Event.KeeperState.SyncConnected){
- count.countDown();
- }
- }
- });
- }catch(Exception e){
- e.printStackTrace();
- }
- }
- /***
- *
- * 此方法是写入数据
- * 如果不存在此节点
- * 就会新建,已存在就是
- * 更新
- *
- * **/
- public void write(String path,String value)throws Exception{
- Stat stat=zk.exists(path, false);
- if(stat==null){
- zk.create(path, value.getBytes(CHARSET), Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
- }else{
- zk.setData(path, value.getBytes(CHARSET), -1);
- }
- }
- public String read(String path,Watcher watch)throws Exception{
- byte[] data=zk.getData(path, watch, null);
- return new String(data,CHARSET);
- }
- SimpleDateFormat f=new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
- public void automicSwitch()throws Exception{
- System.out.println("Master故障,Slave自动切换......., 时间 "+f.format(new Date()));
- }
- public void startMaster(){
- System.out.println("A的Master 启动了........");
- }
- public void createPersist()throws Exception{
- zk.create("/a", "主节点".getBytes(), Ids.OPEN_ACL_UNSAFE , CreateMode.PERSISTENT);
- System.out.println("创建主节点成功........");
- }
- public void createTemp()throws Exception{
- zk.create("/a/b", "a".getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
- System.out.println("a创建子节点成功...........");
- }
- public void check()throws Exception{
- List
list=zk.getChildren("/a", null); - Collections.sort(list);
- if(list.isEmpty()){
- System.out.println("此父路径下面没有节点");
- }else{
- String start=list.get(0);
- String data=new String(zk.getData("/a/"+start, false,null));
- if(data.equals("a")){//等于本身就启动作为Master
- if(list.size()==1){
- startMaster();//作为Master启动
- }else{
- automicSwitch();
- }
- }else{
- //非当前节点
- for(int i=0;i
- //获取那个节点存的此客户端的模拟IP
- String temp=new String(zk.getData("/a/"+list.get(i), false, null));
- if(temp.equals("a")){
- //因为前面作为首位判断,所以这个出现的位置不可能是首位
- //需要监听小节点里面的最大的一个节点
- String watchPath=list.get(i-1);
- System.out.println("a监听的是: "+watchPath);
- zk.exists("/a/"+watchPath, this);//监听此节点的详细情况
- break;//结束循环
- }
- }
- }
- }
- }
- public void close()throws Exception{
- zk.close();
- }
- @Override
- public void process(WatchedEvent event) {
- if(event.getType()==Event.EventType.NodeDeleted){
- //如果发现,监听的节点,挂掉了,那么就重新,进行监听
- try{
- System.out.println("注意有节点挂掉,重新调整监听策略........");
- check();
- }catch(Exception e){
- e.printStackTrace();
- }
- }
- }
- public static void main(String[] args)throws Exception {
- Slave s=new Slave("10.2.143.5:2181");
- //s.createPersist();//创建主节点
- s.createTemp();
- s.check();
- Thread.sleep(Long.MAX_VALUE);
- s.close();
- }
- }
package com.automicswitch;
import java.nio.charset.Charset;
import java.nio.charset.StandardCharsets;
import java.text.SimpleDateFormat;
import java.util.Collections;
import java.util.Date;
import java.util.List;
import java.util.concurrent.CountDownLatch;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooDefs.Ids;
import org.apache.zookeeper.ZooKeeper;
import org.apache.zookeeper.data.Stat;
import com.util.ConnectionWatcher;
/**
* 模拟Zookeeper实现单点故障
* 自动切换
* @author 秦东亮
*
* ***/
public class Slave implements Watcher{
/**
* zk实例
* **/
public ZooKeeper zk;
/**
* 同步工具
*
* **/
private CountDownLatch count=new CountDownLatch(1);
private static final Charset CHARSET=StandardCharsets.UTF_8;
public Slave() {
// TODO Auto-generated constructor stub
}
/**
* hosts,
* zookeeper的访问地址
*
* **/
public Slave(String hosts) {
try{
zk=new ZooKeeper(hosts, 7000, new Watcher() {
@Override
public void process(WatchedEvent event) {
// TODO Auto-generated method stub
if(event.getState()==Event.KeeperState.SyncConnected){
count.countDown();
}
}
});
}catch(Exception e){
e.printStackTrace();
}
}
/***
*
* 此方法是写入数据
* 如果不存在此节点
* 就会新建,已存在就是
* 更新
*
* **/
public void write(String path,String value)throws Exception{
Stat stat=zk.exists(path, false);
if(stat==null){
zk.create(path, value.getBytes(CHARSET), Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
}else{
zk.setData(path, value.getBytes(CHARSET), -1);
}
}
public String read(String path,Watcher watch)throws Exception{
byte[] data=zk.getData(path, watch, null);
return new String(data,CHARSET);
}
SimpleDateFormat f=new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
public void automicSwitch()throws Exception{
System.out.println("Master故障,Slave自动切换......., 时间 "+f.format(new Date()));
}
public void startMaster(){
System.out.println("A的Master 启动了........");
}
public void createPersist()throws Exception{
zk.create("/a", "主节点".getBytes(), Ids.OPEN_ACL_UNSAFE , CreateMode.PERSISTENT);
System.out.println("创建主节点成功........");
}
public void createTemp()throws Exception{
zk.create("/a/b", "a".getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
System.out.println("a创建子节点成功...........");
}
public void check()throws Exception{
List list=zk.getChildren("/a", null);
Collections.sort(list);
if(list.isEmpty()){
System.out.println("此父路径下面没有节点");
}else{
String start=list.get(0);
String data=new String(zk.getData("/a/"+start, false,null));
if(data.equals("a")){//等于本身就启动作为Master
if(list.size()==1){
startMaster();//作为Master启动
}else{
automicSwitch();
}
}else{
//非当前节点
for(int i=0;i
散仙起了,3个客户端,作为模拟Slave,本机上的一个eclipse,一个Myeclipse,和服务器上的一个Myeclipse来实现,模拟单点故障,自动切换的功能。
初始状态截图如下:
散仙停掉,2的监听后发生的变化,如下:
最后,散仙停掉A节点的Master,模拟Master宕机。
到此,散仙已经模拟实现了主从单点故障的自动切换,使用Zookeeper可以非常简单可靠的来完成这个功能,当然,我们在这里只是模拟的简单实现,真正的单点问题的实现,肯定要比散仙的这个要复杂的多,在这里只是提供给大家一个解决的思路