Zookeeper的认识和操作
- Zookeeper——初识Zookeeper
-
- 一、认识：
- 二、Zookeeper命令操作：
-
- （一）Zookeeper 数据模型：
- （二）Zookeeper 服务端常用命令：
- （三）Zookeeper 客户端常用命令：
- 三、Zookeeper JavaAPI操作：
-
- （一）Curator 介绍：
- （二）Curator API 常用操作：
-
- 1、建立连接：
- 2、添加节点：
- 3、删除节点：
- 4、修改节点：
- 5、查询节点：
- 6、Watch事件监听：
- 三、分布式锁：
-
- 1、什么是分布式锁：
- 2、分布式锁原理：
-
- 2.1 理解：
- 2.2 分布式锁的五种方案：
- 2.3 案例：
- 四、Zookeeper集群：
-
- 1、选举leader：
- 2、集群角色：
Zookeeper——初识Zookeeper
一、认识：
- Zookeeper 是 Apache Hadoop 项目下的一个子项目，是一个树形目录服务。
- Zookeeper 翻译过来就是 动物园管理员，他是用来管 Hadoop（大象）、Hive(蜜蜂)、Pig(小 猪)的管理员。简称zk
- Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。
- Zookeeper 提供的主要功能包括：
4.1 配置管理
4.2 分布式锁
4.3 集群管理
记住一句话：zk是一个协调服务，用来协调、管理分布式应用程序的。
二、Zookeeper命令操作：
（一）Zookeeper 数据模型：
- ZooKeeper 是一个树形目录服务,其数据模型和Unix的文件系统目录树很类似，拥有一个层次化结构。
- 这里面的每一个节点都被称为： ZNode，每个节点上都会保存自己的数据和节点信息。 这和Unix的文件系统目录有点区别，文件系统目录只能存子节点的信息。
- 节点可以拥有子节点，同时也允许少量（1MB）数据存储在该节点之下。
- 节点可以分为四大类：
PERSISTENT 持久化节点 ：zk关闭重新打开，这个节点还在；
EPHEMERAL 临时节点 ：-e zk客户端已关闭，节点就会被销毁
PERSISTENT_SEQUENTIAL 持久化顺序节点 ：-s
EPHEMERAL_SEQUENTIAL 临时顺序节点 ：-es
（二）Zookeeper 服务端常用命令：
- 启动 ZooKeeper 服务: ./zkServer.sh start
- 查看 ZooKeeper 服务状态: ./zkServer.sh status
- 停止 ZooKeeper 服务: ./zkServer.sh stop
- 重启 ZooKeeper 服务: ./zkServer.sh restart
（三）Zookeeper 客户端常用命令：
- 连接ZooKeeper服务端：./zkCli.sh –server ip:port
- 断开连接：quit
- 创建节点：create /节点path value
- 删除单节点：delete /节点path 节点如果包含子节点，则不能直接删除
- 删除带有子节点的节点：deleteall /节点path
- 设置节点值：set /节点path value
- 获取节点值：get /节点path
- 查看命令帮助：help
- 显示指定目录下节点：ls 目录
- 创建临时节点：create -e /节点path value
- 创建顺序节点：create -s /节点path value
- 查询节点详细信息：ls –s /节点path
czxid：节点被创建的事务ID
ctime: 创建时间
mzxid: 最后一次被更新的事务ID
mtime: 修改时间
pzxid：子节点列表最后一次被更新的事务ID
cversion：子节点的版本号
dataversion：数据版本号
aclversion：权限版本号
ephemeralOwner：用于临时节点，代表临时节点的事务ID，如果为持久节点则为0
dataLength：节点存储的数据的长度
numChildren：当前节点的子节点个数
三、Zookeeper JavaAPI操作：
（一）Curator 介绍：
Curator 是 Apache ZooKeeper 的Java客户端库。
（二）Curator API 常用操作：
1、建立连接：
重试策略： 
/**
* 建立连接
*/
@Before
public void testConnect() {
/*
*
* @param connectString 连接字符串。zk server 地址和端口 "192.168.149.135:2181,192.168.149.136:2181"
* @param sessionTimeoutMs 会话超时时间 单位ms
* @param connectionTimeoutMs 连接超时时间 单位ms
* @param retryPolicy 重试策略
*/
/* //重试策略
RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000,10);
//1.第一种方式
CuratorFramework client = CuratorFrameworkFactory.newClient("192.168.149.135:2181",
60 * 1000, 15 * 1000, retryPolicy);
*/
//重试策略
RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);
//2.第二种方式
//CuratorFrameworkFactory.builder();
client = CuratorFrameworkFactory.builder()
.connectString("192.168.149.135:2181")
.sessionTimeoutMs(60 * 1000)
.connectionTimeoutMs(15 * 1000)
.retryPolicy(retryPolicy)
.namespace("itheima") //相当于根目录
.build();
//开启连接
client.start();
}
2、添加节点：
//==============================create=============================================================================
/**
* 创建节点：create 持久 临时 顺序 数据
* 1. 基本创建 ：create().forPath("")
* 2. 创建节点 带有数据:create().forPath("",data)
* 3. 设置节点的类型：create().withMode().forPath("",data)
* 4. 创建多级节点 /app1/p1 ：create().creatingParentsIfNeeded().forPath("",data)
*/
@Test
public void testCreate() throws Exception {
//2. 创建节点 带有数据
//如果创建节点，没有指定数据，则默认将当前客户端的ip作为数据存储
String path = client.create().forPath("/app2", "hehe".getBytes());
System.out.println(path);
}
@Test
public void testCreate2() throws Exception {
//1. 基本创建
//如果创建节点，没有指定数据，则默认将当前客户端的ip作为数据存储
String path = client.create().forPath("/app1");
System.out.println(path);
}
@Test
public void testCreate3() throws Exception {
//3. 设置节点的类型
//默认类型：持久化
String path = client.create().withMode(CreateMode.EPHEMERAL).forPath("/app3");
System.out.println(path);
}
@Test
public void testCreate4() throws Exception {
//4. 创建多级节点 /app1/p1
//creatingParentsIfNeeded():如果父节点不存在，则创建父节点
String path = client.create().creatingParentsIfNeeded().forPath("/app4/p1");
System.out.println(path);
}
3、删除节点：
//===========================delete================================================================================
/**
* 删除节点： delete deleteall
* 1. 删除单个节点:delete().forPath("/app1");
* 2. 删除带有子节点的节点:delete().deletingChildrenIfNeeded().forPath("/app1");
* 3. 必须成功的删除:为了防止网络抖动。本质就是重试。 client.delete().guaranteed().forPath("/app2");
* 4. 回调：inBackground
* @throws Exception
*/
@Test
public void testDelete() throws Exception {
// 1. 删除单个节点
client.delete().forPath("/app1");
}
@Test
public void testDelete2() throws Exception {
//2. 删除带有子节点的节点
client.delete().deletingChildrenIfNeeded().forPath("/app4");
}
@Test
public void testDelete3() throws Exception {
//3. 必须成功的删除
client.delete().guaranteed().forPath("/app2");
}
@Test
public void testDelete4() throws Exception {
//4. 回调
client.delete().guaranteed().inBackground(new BackgroundCallback(){
@Override
public void processResult(CuratorFramework client, CuratorEvent event) throws Exception {
System.out.println("我被删除了~");
System.out.println(event);
}
}).forPath("/app1");
}
4、修改节点：
//===========================set================================================================================
/**
* 修改数据
* 1. 基本修改数据：setData().forPath()
* 2. 根据版本修改: setData().withVersion().forPath()
* * version 是通过查询出来的。目的就是为了让其他客户端或者线程不干扰我。
*
* @throws Exception
*/
@Test
public void testSet() throws Exception {
client.setData().forPath("/app1", "itcast".getBytes());
}
@Test
public void testSetForVersion() throws Exception {
Stat status = new Stat();
//3. 查询节点状态信息：ls -s
client.getData().storingStatIn(status).forPath("/app1");
int version = status.getVersion();//查询出来的 3
System.out.println(version);
client.setData().withVersion(version).forPath("/app1", "hehe".getBytes());
}
5、查询节点：
//===========================get================================================================================
/**
* 查询节点：
* 1. 查询数据：get: getData().forPath()
* 2. 查询子节点： ls: getChildren().forPath()
* 3. 查询节点状态信息：ls -s:getData().storingStatIn(状态对象).forPath()
*/
@Test
public void testGet1() throws Exception {
//1. 查询数据：get
byte[] data = client.getData().forPath("/app1");
System.out.println(new String(data));
}
@Test
public void testGet2() throws Exception {
// 2. 查询子节点： ls
List<String> path = client.getChildren().forPath("/");
System.out.println(path);
}
@Test
public void testGet3() throws Exception {
Stat status = new Stat();
System.out.println(status);
//3. 查询节点状态信息：ls -s
client.getData().storingStatIn(status).forPath("/app1");
System.out.println(status);
}
6、Watch事件监听：
-
ZooKeeper 允许用户在指定节点上注册一些Watcher，并且在一些特定事件触发的时候，ZooKeeper 服务端会将事件通知到感兴趣的客户端上去，该机制是 ZooKeeper 实现分布式协调服务的重要特性。
-
ZooKeeper 中引入了Watcher机制来实现了发布/订阅功能能，能够让多个订阅者同时监听某一个对象，当一个对象自身状态变化时，会通知所有订阅者。
-
Curator引入了 Cache 来实现对 ZooKeeper 服务端事件的监听。
-
ZooKeeper提供了三种Watcher：
4.1 NodeCache : 只是监听某一个特定的节点
4.2 PathChildrenCache : 监控一个ZNode的子节点.
4.3 TreeCache : 可以监控整个树上的所有节点，类似于PathChildrenCache和NodeCache的组合
/**
* 演示 NodeCache：给指定一个节点注册监听器
*/
@Test
public void testNodeCache() throws Exception {
//1. 创建NodeCache对象
final NodeCache nodeCache = new NodeCache(client,"/app1");
//2. 注册监听
nodeCache.getListenable().addListener(new NodeCacheListener() {
@Override
public void nodeChanged() throws Exception {
System.out.println("节点变化了~");
//获取修改节点后的数据
byte[] data = nodeCache.getCurrentData().getData();
System.out.println(new String(data));
}
});
//3. 开启监听.如果设置为true，则开启监听是，加载缓冲数据
nodeCache.start(true);
}
/**
* 演示 PathChildrenCache：监听某个节点的所有子节点们
*/
@Test
public void testPathChildrenCache() throws Exception {
//1.创建监听对象
PathChildrenCache pathChildrenCache = new PathChildrenCache(client,"/app2",true);
//2. 绑定监听器
pathChildrenCache.getListenable().addListener(new PathChildrenCacheListener() {
@Override
public void childEvent(CuratorFramework client, PathChildrenCacheEvent event) throws Exception {
System.out.println("子节点变化了~");
System.out.println(event);
//监听子节点的数据变更，并且拿到变更后的数据
//1.获取类型
PathChildrenCacheEvent.Type type = event.getType();
//2.判断类型是否是update
if(type.equals(PathChildrenCacheEvent.Type.CHILD_UPDATED)){
System.out.println("数据变了！！！");
byte[] data = event.getData().getData();
System.out.println(new String(data));
}
}
});
//3. 开启
pathChildrenCache.start();
}
/**
* 演示 TreeCache：监听某个节点自己和所有子节点们
*/
@Test
public void testTreeCache() throws Exception {
//1. 创建监听器
TreeCache treeCache = new TreeCache(client,"/app2");
//2. 注册监听
treeCache.getListenable().addListener(new TreeCacheListener() {
@Override
public void childEvent(CuratorFramework client, TreeCacheEvent event) throws Exception {
System.out.println("节点变化了");
System.out.println(event);
}
});
//3. 开启
treeCache.start();
}
三、分布式锁：
1、什么是分布式锁：
1.1 在我们进行单机应用开发，涉及并发同步的时候，我们往往采用synchronized或者Lock的方式来解决多线程间的代码同步问题，这时多线程的运行都是在同一个JVM之下，没有任何问题。
1.2 但当我们的应用是分布式集群工作的情况下，属于多JVM下的工作环境，跨JVM之间已经无法通过多线程的锁解决同步问题。那么就需要一种更加高级的锁机制，来处理种跨机器的进程之间的数据同步问题——这就是分布式锁。
2、分布式锁原理：
2.1 理解：
2.2 分布式锁的五种方案：
2.3 案例：
12306会做集群管理，代理商来向12306买票，所以12306需要做分布式锁来控制资源被正常获取。这个时候引入Zookeeper，由zk提供分布式锁。
四、Zookeeper集群：
1、选举leader：
根据Serverid：服务器ID，比如有三台服务器，编号分别是1，2，3，编号越大在选择算法中的权重越大；
根据Zxid：数据ID，服务器中存放的最大数据ID，值越大，说明数据越新，在选举算法中数据越新权重越大；
在Leader选择的过程中，如果某台Zookeeper获得了超过半数的选票，则此Zookeeper就可以成为Leader了。
2、集群角色：
Leader 领导者 ：
- 处理事务请求
- 集群内部各服务器的调度者
Follower 跟随者 ：
- 处理客户端非事务请求，转发事务请求给Leader服务器
- 参与Leader选举投票
Observer 观察者：
- 处理客户端非事务请求，转发事务请求给Leader服务器