【Distributed】zookeeper+kafka的应用及部署

川长思鸟来 2024-04-06 14:50 60阅读 0赞

#### 文章目录 ####

*  一、zookeeper
 *   *  1. zookeeper的概述
     *   *  1.1 Zookeeper 定义
         *  1.2 Zookeeper 工作机制
         *  1.3 Zookeeper 特点
         *  1.4 Zookeeper 数据结构
         *  1.5 Zookeeper 应用场景
         *  1.6 Zookeeper 选举机制
         *   *  第一次启动选举机制
             *  非第一次启动选举机制
             *  选举Leader规则
     *  2. 部署 Zookeeper 集群
     *   *  2.1 安装前准备
         *  2.2 安装 Zookeeper
 *  二、Kafka
 *   *  1. 消息队列概述
     *   *  1.1 为什么需要消息队列（MQ）
         *  1.2 使用消息队列的好处
         *  1.3 消息队列的两种模式
     *  2. Kafka 概述
     *   *  2.1 Kafka 定义
         *  2.2 Kafka 简介
         *  2.3 Kafka 的特性
         *  2.4 Kafka 系统架构
         *   *  Broker
             *  Topic
             *  Partition
             *  Replica
             *  Leader
             *  Follower
             *  Producer
             *  Consumer
             *  Consumer Group（CG）
             *  offset 偏移量
             *  Zookeeper
     *  3. 部署 kafka 集群
     *   *  3.1 下载安装包
         *  3.2 安装 Kafka
         *  3.3 Kafka 命令行操作
     *  4. Kafka 架构深入
     *   *  4.1 Kafka 工作流程及文件存储机制
         *  4.2 数据可靠性保证
         *  4.3 数据一致性问题
         *   *  follower 故障
             *  leader 故障
         *  4.4 ack 应答机制
     *  5. Filebeat+Kafka+ELK 的部署
     *   *  5.1 部署 Zookeeper+Kafka 集群
         *  5.2 部署 Filebeat
         *  5.3 部署 ELK，在 Logstash 组件所在节点上新建一个 Logstash 配置文件
         *  5.4 浏览器访问
 *  总结
 *   *  1. zookeeper
     *  2. 中间件
     *  3. 消息队列
     *  4. kafka架构
     *  5. kafka 的 ack 应答机制

--------------------

## 一、zookeeper ##

### 1. zookeeper的概述 ###

#### 1.1 Zookeeper 定义 ####

ZooKeeper 是一个分布式的，开放源码的分布式应用程序协调服务，是 Google 的 Chubby 一个开源的实现，是 Hadoop 和 Hbase 的重要组件。

#### 1.2 Zookeeper 工作机制 ####

Zookeeper 从设计模式角度来理解：是一个基于观察者模式设计的分布式服务管理框架，它负责存储和管理大家都关心的数据，然后接受观察者的注册，一旦这些数据的状态发生变化，Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应。也就是说 Zookeeper = 文件系统 + 通知机制 。

![在这里插入图片描述][fe277edece6f49188ec7a2616a279939.png_pic_center]

#### 1.3 Zookeeper 特点 ####

*  Zookeeper 是由一个领导者（ leader ），多个跟随者（ follower ）组成的集群。Leader 负责进行投票的发起和决议，更新系统状态； Follower 用于接收客户请求并向客户端返回结果，在选举 Leader 过程中参与投票
 *  Zookeeper 集群中只要有半数以上节点存活， Zookeeper 集群就能正常服务。所以 Zookeeper 适合安装奇数台服务器。
 *  全局数据一致：每个 Server 保存一份相同的数据副本， Client 无论连接到哪个 Server ，数据都是一致的。
 *  更新请求顺序执行，来自同一个 Client 的更新请求按其发送顺序依次执行，即先进先出。
 *  数据更新原子性，一次数据更新要么成功，要么失败。
 *  实时性，在一定时间范围内， Client 能读到最新数据。

#### 1.4 Zookeeper 数据结构 ####

ZooKeeper 数据模型的结构与 Unix 文件系统很类似，整体上可以看作是一棵树，每个节点称做一个 ZNode 。每一个 ZNode 默认能够存储 1MB 的数据，每个 ZNode 都可以通过其路径唯一标识。

![在这里插入图片描述][de39a8683f6440cf9788cda5ee86adc3.png_pic_center]

#### 1.5 Zookeeper 应用场景 ####

提供的服务包括：统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

**统一命名服务**

在分布式环境下，经常需要对应用/服务进行统一命名，便于识别。

*  类似于域名与 ip 之间对应关系， ip 不容易记住，而域名容易记住
 *  通过名称来获取资源或服务的地址，提供者等信息

**统一配置管理**

分布式环境下，配置文件同步非常常见。一般要求一个集群中，所有节点的配置信息是一致的，比如Kafka集群。对配置文件修改后，希望能够快速同步到各个节点上。

配置管理可交由 ZooKeeper 实现。可将配置信息写入 ZooKeeper 上的一个 Znode 。各个客户端服务器监听这个 Znode 。一旦 Znode 中的数据被修改，ZooKeeper 将通知各个客户端服务器。

**统一集群管理**

分布式环境中，实时掌握每个节点的状态是必要的。可根据节点实时状态做出一些调整。

ZooKeeper 可以实现实时监控节点状态变化。可将节点信息写入 ZooKeeper上的一个ZNode。监听这个ZNode可获取它的实时状态变化。

**服务器动态上下线**

客户端能实时洞察到服务器上下线的变化。

**软负载均衡**

在 Zookeeper 中记录每台服务器的访问数，让访问数最少的服务器去处理最新的客户端请求。

#### 1.6 Zookeeper 选举机制 ####

##### 第一次启动选举机制 #####

（1）服务器1启动，发起一次选举。服务器1投自己一票。此时服务器1票数一票，不够半数以上（3票），选举无法完成，服务器1状态保持为LOOKING。

（2）服务器2启动，再发起一次选举。服务器1和2分别投自己一票并交换选票信息：此时服务器1发现服务器2的myid比自己目前投票推举的（服务器1）大，更改选票为推举服务器2。此时服务器1票数0票，服务器2票数2票，没有半数以上结果，选举无法完成，服务器1，2状态保持LOOKING。

（3）服务器3启动，发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果：服务器1为0票，服务器2为0票，服务器3为3票。此时服务器3的票数已经超过半数，服务器3当选Leader。服务器1，2更改状态为FOLLOWING，服务器3更改状态为LEADING。

（4）服务器4启动，发起一次选举。此时服务器1，2，3已经不是LOOKING状态，不会更改选票信息。交换选票信息结果：服务器3为3票，服务器4为1票。此时服务器4服从多数，更改选票信息为服务器3，并更改状态为FOLLOWING。

（5）服务器5启动，同服务器4一样当小弟。

![在这里插入图片描述][b3de6a9c1dc049d191d2fb61bd1126bf.png_pic_center]

**总结：第一次选举会先比较服务器的 myid 大小，myid 大的就会选举它当 leader ，当票数过半的时后来的服务器则会直接选举票数最多的服务器为leader**

##### 非第一次启动选举机制 #####

（1）当ZooKeeper 集群中的一台服务器出现以下两种情况之一时，就会开始进入Leader选举：

*  服务器初始化启动。
 *  服务器运行期间无法和Leader保持连接。

（2）而当一台机器进入Leader选举流程时，当前集群也可能会处于以下两种状态：

*  集群中本来就已经存在一个Leader。

对于已经存在Leader的情况，机器试图去选举Leader时，会被告知当前服务器的Leader信息，对于该机器来说，仅仅需要和 Leader机器建立连接，并进行状态同步即可。

*  集群中确实不存在Leader。

假设ZooKeeper由5台服务器组成，SID分别为1、2、3、4、5，ZXID分别为8、8、8、7、7，并且此时SID为3的服务器是Leader。某一时刻，3和5服务器出现故障，因此开始进行Leader选举。

##### 选举Leader规则 #####

*  EPOCH大的直接胜出；
 *  如果EPOCH相同，事务id大的胜出；
 *  如果事务id相同，服务器id大的胜出。

SID:	服务器ID。用来唯一标识一台ZooKeeper集群中的机器，每台机器不能重复，和myid一致。
    
    ZXID:	事务ID。ZXID是一个事务ID，用来标识一次服务器状态的变更。
    	  	在某一时刻，集群中的每台机器的ZXID值不一定完全一致，这和ZooKeeper服务器对于客户端“更新请求”的处理逻辑速度有关。
    
    Epoch:	每个Leader任期的代号。没有Leader时同一轮投票过程中的逻辑时钟值是相同的。每投完一次票这个数据就会增加

### 2. 部署 Zookeeper 集群 ###

#准备 3 台服务器做 Zookeeper 集群
    192.168.145.75
    192.168.145.90
    192.168.145.105

#### 2.1 安装前准备 ####

#关闭防火墙
    systemctl stop firewalld
    systemctl disable firewalld
    setenforce 0

![在这里插入图片描述][61e5901368ac4119a43761e3b1d96335.png_pic_center]

#安装 JDK
    yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
    java -version

![在这里插入图片描述][acffc4483c4241309ec69d7b5320649c.png_pic_center]

#下载安装包
    官方下载地址：https://archive.apache.org/dist/zookeeper/
    
    cd /opt/
    wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz

#### 2.2 安装 Zookeeper ####

cd /opt/
    tar xf apache-zookeeper-3.5.7-bin.tar.gz
    mv apache-zookeeper-3.5.7-bin /usr/local/zookeeper-3.5.7

![在这里插入图片描述][4ce0edc817c94ad19f77cdb0001730ea.png_pic_center]

#修改配置文件
    cd /usr/local/zookeeper-

[fe277edece6f49188ec7a2616a279939.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/76211f236586449a9919648e012b8645.png
[de39a8683f6440cf9788cda5ee86adc3.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/f324736a2f4d44b4bfb9d39e5a15a10a.png
[b3de6a9c1dc049d191d2fb61bd1126bf.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/41d496e61eee48ec8ef03dd3a1fb574f.png
[61e5901368ac4119a43761e3b1d96335.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/3f53effd51694250af4bb01ca5e3ae97.png
[acffc4483c4241309ec69d7b5320649c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/0d838b71cde14b4bb50c018ee4e89306.png
[4ce0edc817c94ad19f77cdb0001730ea.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/06/55e173ecd5c14b47affe90b781b28d0e.png