zookeeper一二三

落日映苍穹つ 2021-12-16 03:49 192阅读 0赞

**1.zookeeper介绍**

ZooKeeper 是一个开源的分布式协调服务，由雅虎创建，是 Google Chubby 的开源实现。分布式应用程序可以基于 ZooKeeper 实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master 选举、配置维护，名字服务、分布式同步、分布式锁和分布式队列等功能。

**数据模型**：ZooKeeper 允许分布式进程通过共享的层次结构命名空间进行相互协调，这与标准文件系统类似。名称空间由 ZooKeeper 中的数据寄存器组成，称为 Znode，这些类似于文件和目录。与典型文件系统不同，ZooKeeper 数据保存在内存中，这意味着 ZooKeeper 可以实现高吞吐量和低延迟。

**顺序访问**：对于来自客户端的每个更新请求，ZooKeeper 都会分配一个全局唯一的递增编号。这个编号反应了所有事务操作的先后顺序，应用程序可以使用 ZooKeeper 这个特性来实现更高层次的同步原语。这个编号也叫做时间戳—zxid（ZooKeeper Transaction Id）。

**可构建集群：**为了保证高可用，最好是以集群形态来部署 ZooKeeper，这样只要集群中大部分机器是可用的（能够容忍一定的机器故障），那么 ZooKeeper 本身仍然是可用的。客户端在使用 ZooKeeper 时，需要知道集群机器列表，通过与集群中的某一台机器建立 TCP 连接来使用服务。客户端使用这个 TCP 链接来发送请求、获取结果、获取监听事件以及发送心跳包。如果这个连接异常断开了，客户端可以连接到另外的机器上。

![650705-20190319161720884-196788793.jpg][]

上图中每一个 Server 代表一个安装 ZooKeeper 服务的服务器。组成 ZooKeeper 服务的服务器都会在内存中维护当前的服务器状态，并且每台服务器之间都互相保持着通信。集群间通过 Zab 协议（Zookeeper Atomic Broadcast）来保持数据的一致性。Zookeeper服务器有三种角色：Leader、Follower、Observer，集群中的所有机器通过一个 Leader 选举过程来选定一台称为 “Leader” 的机器。Leader 既可以为客户端提供写服务又能提供读服务。除了 Leader 外，Follower 和  Observer 都只能提供读服务。Follower 和 Observer 唯一的区别在于 Observer 机器不参与 Leader 的选举过程，也不参与写操作的“过半写成功”策略，因此 Observer 机器可以在不影响写性能的情况下提升集群的读性能。在 ZooKeeper 中，主要依赖 ZAB 协议来实现分布式数据一致性，基于该协议，ZooKeeper 实现了一种主备模式的系统架构来保持集群中各个副本之间的数据一致性。

**工作原理**：Zookeeper的核心是原子广播，这个机制保证了各个server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式，它们分别是恢复模式和广播模式。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数server的完成了和leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和server具有相同的系统状态。一旦leader已经和多数的follower进行了状态同步后，他就可以开始广播消息了，即进入广播状态。这时候当一个server加入zookeeper服务中，它会在恢复模式下启动，发现leader，并和leader进行状态同步。待到同步结束，它也参与消息广播。Zookeeper服务一直维持在Broadcast状态，直到leader崩溃了或者leader失去了大部分的followers支持。

**Leader选举**：广播模式需要保证proposal（提议）被按顺序处理（leader来执行写操作），因此zk采用了递增的事务id号(zxid)来保证。所有的提议都在被提出的时候加上了zxid。实现中zxid是一个64为的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch。低32位是个递增计数。当leader崩溃或者leader失去大多数的follower，这时候zk进入恢复模式，恢复模式需要重新选举出一个新的leader，让所有的server都恢复到一个正确的状态。每个Server启动以后都询问其它的Server它要投票给谁。对于其他server的询问，server每次根据自己的状态都回复自己推荐的leader的id和上一次处理事务的zxid（系统启动时每个server都会推荐自己），收到所有Server回复以后，就计算出zxid最大的哪个Server，并将这个Server相关信息设置成下一次要投票的Server。计算这过程中获得票数最多的的sever为获胜者，如果获胜者的票数超过半数，则改server被选为leader。否则，继续这个过程，直到leader被选举出来。

![650705-20190319170238950-1750435544.png][]

**数据一致性算法**：paxos，请参考[Zookeeper全解析——Paxos作为灵魂][Zookeeper_Paxos]

**2.使用Zookeeper**

1        //客户端连接zookeeper服务器
     2         ZooKeeper zkClient = new ZooKeeper(CONNECT_STR, 50000, new Watcher() {
     3             @Override
     4             public void process(WatchedEvent watchedEvent) {
     5                 //监控服务节点变化
     6                 System.out.println("sssss");
     7             }
     8         });
     9         
    10         //获取根节点下的所有节点
    11         List<String> nodeList= zkClient.getChildren("/",null);
    12 
    13         System.out.println(nodeList.toString());
    14 
    15         //Stat isExists= zkClient.exists(LOCK_ROOT_PATH,null);
    16         //在test父节点下创建子节点
    17         String lockPath = zkClient.create("/test/why","why".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL_SEQUENTIAL);

代码中需要注意的是如果父节点不存在，会报异常，同时父节点不能是临时节点。

**Znode**：在 ZooKeeper 中，“节点"分为两类，第一类同样是指构成集群的机器，我们称之为机器节点，第二类则是指数据模型中的数据单元，我们称之为数据节点一ZNode。ZooKeeper 将所有数据存储在内存中，数据模型是一棵树（Znode Tree)，由斜杠（/）的进行分割的路径，就是一个 Znode，例如/foo/path1。每个上都会保存自己的数据内容，同时还会保存一系列属性信息。zookeeper有四类节点：PERSISTENT（持久的）、EPHEMERAL(暂时的)、PERSISTENT\_SEQUENTIAL（持久化顺序编号目录节点）、EPHEMERAL\_SEQUENTIAL（暂时化顺序编号目录节点）

**Session**：Session 指的是 ZooKeeper  服务器与客户端会话。在 ZooKeeper 中，一个客户端连接是指客户端和服务器之间的一个 TCP 长连接。客户端启动的时候，首先会与服务器建立一个 TCP 连接，从第一次连接建立开始，客户端会话的生命周期也开始了。通过这个连接，客户端能够通过心跳检测与服务器保持有效的会话，也能够向 Zookeeper 服务器发送请求并接受响应，同时还能够通过该连接接收来自服务器的 Watch 事件通知。Session 的 sessionTimeout 值用来设置一个客户端会话的超时时间。当由于服务器压力太大、网络故障或是客户端主动断开连接等各种原因导致客户端连接断开时，只要在 sessionTimeout 规定的时间内能够重新连接上集群中任意一台服务器，那么之前创建的会话仍然有效。在为客户端创建会话之前，服务端首先会为每个客户端都分配一个 sessionID。由于 sessionID 是 Zookeeper 会话的一个重要标识，许多与会话相关的运行机制都是基于这个 sessionID 的。因此，无论是哪台服务器为客户端分配的 sessionID，都务必保证全局唯一。

**Watcher**：是 ZooKeeper 中的一个很重要的特性。ZooKeeper 允许用户在指定节点上注册一些 Watcher，并且在一些特定事件触发的时候，ZooKeeper 服务端会将事件通知到感兴趣的客户端上去，该机制是 ZooKeeper 实现分布式协调服务的重要特性。

**Version:  **Zookeeper 的每个 ZNode 上都会存储数据，对应于每个 ZNode，Zookeeper 都会为其维护一个叫作 Stat 的数据结构。Stat 中记录了这个 ZNode 的三个数据版本，分别是：version(当前节点版本)、cversion（当前节点的子节点版本）、aversion（当前节点的ACL版本）

**ACL：**ZooKeeper 采用 ACL（AccessControlLists）策略来进行权限控制，类似于  UNIX 文件系统的权限控制。ZooKeeper 定义了 5 种权限:CREATE/READ/WRITE/DELETE/ADMIN

**3.通过zookeeper实现分布式锁**

1 package com.why;
     2 
     3 import org.apache.zookeeper.*;
     4 import org.apache.zookeeper.data.Stat;
     5 
     6 import java.io.IOException;
     7 import java.util.Collections;
     8 import java.util.List;
     9 
    10 /*
    11 *  分布式锁
    12 * */
    13 public class DistributeLock {
    14 
    15     private static final String LOCK_ROOT_PATH = "/test";
    16     //private static final String LOCK_NODE_NAME = "Lock";
    17 
    18     private static ZooKeeper _zkClient;
    19 
    20     static {
    21         try {
    22             _zkClient = new ZooKeeper("192.168.6.132:2181", 500000, null);
    23         } catch (IOException e) {
    24             e.printStackTrace();
    25         }
    26     }
    27 
    28 
    29     public static String getLock() {
    30         try {
    31 
    32             //System.out.println(_zkClient.getChildren("/",false));
    33 
    34             String lockPath = _zkClient.create( "/test/why", null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
    35             //System.out.println(lockPath);
    36             //System.out.println(_zkClient.getChildren(LOCK_ROOT_PATH,false));
    37             if (tryLock(lockPath))
    38                 return lockPath;
    39             else
    40                 return null;
    41         } catch (Exception ex) {
    42             ex.printStackTrace();
    43             return null;
    44         }
    45     }
    46 
    47     private static boolean tryLock(String lockPath) throws KeeperException, InterruptedException {
    48         List<String> lockPaths = _zkClient.getChildren(LOCK_ROOT_PATH, false);
    49         Collections.sort(lockPaths);
    50         int index=lockPaths.indexOf(lockPath.substring(LOCK_ROOT_PATH.length()+1));
    51         if(index==0){
    52             //获得锁
    53             return true;
    54         }
    55         else{
    56             String preLockPath="/"+lockPaths.get(index-1);
    57 
    58             Watcher watcher=new Watcher() {
    59                 @Override
    60                 public void process(WatchedEvent watchedEvent) {
    61                     synchronized (this){
    62                         //唤醒线程
    63                         notifyAll();
    64                     }
    65                 }
    66             };
    67 
    68             Stat stat=_zkClient.exists(preLockPath,watcher);
    69 
    70             if(stat==null){
    71                 return tryLock(lockPath);
    72             }else{
    73                 synchronized (watcher){
    74                     watcher.wait();
    75                 }
    76                 return tryLock(lockPath);
    77             }
    78 
    79         }
    80 
    81     }
    82 
    83     public static void closeZkClient() throws InterruptedException {
    84         _zkClient.close();
    85     }
    86 
    87     public static void releaseLock(String lockPath) throws KeeperException, InterruptedException {
    88         _zkClient.delete(lockPath,-1);
    89     }
    90 }

测试：

package com.why;
    
    import org.apache.zookeeper.KeeperException;
    import org.apache.zookeeper.ZooKeeper;
    
    import java.io.IOException;
    import java.util.concurrent.ExecutorService;
    import java.util.concurrent.Executors;
    
    public class MultiThreadDemo {
    
        private static  int counter = 0;
    
        public  static  void plus() throws InterruptedException {
            Thread.sleep(500);
            counter++;
            //System.out.println(counter);
        }
    
        public static int Count(){
            return counter;
        }
    
        public static void main(String[] args) throws IOException, KeeperException, InterruptedException {
    
            ExecutorService executor= Executors.newCachedThreadPool();
            final int num=10;
            for(int i=0;i<num;i++){
                executor.submit(new Runnable() {
                    @Override
                    public void run() {
                        try {
                            String path = DistributeLock.getLock();
                            System.out.println(path);
                            plus();
                            DistributeLock.releaseLock(path);
                            System.out.println(Count());
                        } catch (InterruptedException | KeeperException e) {
                            e.printStackTrace();
                        }
                    }
                });
            }
            executor.shutdown();
    
        }
    }

附ubantu下zookeeper安装脚本

1.下载  
wget http://apache.osuosl.org/zookeeper/zookeeper-3.4.13/zookeeper-3.4.13.tar.gz

2.解压到指定目录  
sudo tar -xzvf zookeeper-3.4.13.tar.gz -C /usr/local

3.复制配置文件：  
cd conf  
sudo zoo\_sample.cfg zoo.cfg

4.单机版不需要配置zoo.cfg,集群需要配置

5.启动  
cd bin  
sh zkServer.sh start

6.如果启用遇到错误提示Syntax error: "(" unexpected (expecting "fi")  
按如下步骤解决：  
root@127.0.0.1:~\# cd /bin/  
root@127.0.0.1:/bin\# ls -l /bin/sh  
lrwxrwxrwx 1 root root 4 Dec 23 22:30 /bin/sh -> dash(默认)  
root@127.0.0.1:/bin\# ln -sf bash /bin/sh  
root@127.0.0.1:/bin\# ls -l /bin/sh  
lrwxrwxrwx 1 root root 4 Dec 23 22:37 /bin/sh -> bash

* *

转载于:https://www.cnblogs.com/checkout/p/10559660.html

[650705-20190319161720884-196788793.jpg]: /images/20211214/c727fd8bdadb4dc1a1a41395f6c2e583.png
[650705-20190319170238950-1750435544.png]: /images/20211214/91ee297c95004e44a4e61a2745449988.png
[Zookeeper_Paxos]: https://www.douban.com/note/208430424/