kafka的部署和原理分析

爱被打了一巴掌 2022-06-12 03:43 176阅读 0赞

### 1. 消息队列![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70] ###

（1）点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）  
点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此。  
（2）发布/订阅模式（一对多，数据生产后，推送给所有订阅者）  
发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者，临时订阅者只在主动监听主题时才接收消息，而持久订阅者则监听主题的所有消息，即使当前订阅者不可用，处于离线状态。

### 2. 为什么需要消息队列 ###

1）解耦：  
　　允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。  
2）冗余：  
消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。许多消息队列所采用的"插入-获取-删除"范式中，在把一个消息从队列中删除之前，需要你的处理系统明确的指出该消息已经被处理完毕，从而确保你的数据被安全的保存直到你使用完毕。  
3）扩展性：  
因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的，只要另外增加处理过程即可。  
4）灵活性 & 峰值处理能力：  
在访问量剧增的情况下，应用仍然需要继续发挥作用，但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力，而不会因为突发的超负荷的请求而完全崩溃。  
5）可恢复性：  
系统的一部分组件失效时，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。  
6）顺序保证：  
在大多使用场景下，数据处理的顺序都很重要。大部分消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。（Kafka保证一个Partition内的消息的有序性）  
7）缓冲：  
有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息的处理速度不一致的情况。  
8）异步通信：  
很多时候，用户不想也不需要立即处理消息。消息队列提供了异步处理机制，允许用户把一个消息放入队列，但并不立即处理它。想向队列中放入多少消息就放多少，然后在需要的时候再去处理它们。

### 3. 什么是Kafka ###

在流式计算中，Kafka一般用来缓存数据，Storm通过消费Kafka的数据进行计算。  
1）Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。  
2）Kafka最初是由LinkedIn公司开发，并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。  
3）Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类，发送消息者称为Producer，消息接受者称为Consumer，此外kafka集群有多个kafka实例组成，每个实例(server)称为broker。  
4）无论是kafka集群，还是consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性。

**kafka架构**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70 1]  
1）Producer ：消息生产者，就是向kafka broker发消息的客户端；  
2）Consumer ：消息消费者，向kafka broker取消息的客户端；  
3）Topic ：可以理解为一个队列；  
4） Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。一个topic可以有多个CG。topic的消息会复制（不是真的复制，是概念上的）到所有的CG，但每个partion只会把消息发给该CG中的一个consumer。如果需要实现广播，只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic；  
5）Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic；  
6）Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id（offset）。kafka只保证按一个partition中的顺序将消息发给consumer，不保证一个topic的整体（多个partition间）的顺序；  
7）Offset：kafka的存储文件都是按照offset.kafka来命名，用offset做名字的好处是方便查找。例如你想找位于2049的位置，只要找到2048.kafka的文件即可。当然the first offset就是00000000000.kafka。

#### 4. Kafka集群部署 ####

[官网下载地址kafka\_2.12-0.11.0.2.tgz][kafka_2.12-0.11.0.2.tgz]  
解压安装包

[root@wyl01 software]# tar -zxvf kafka_2.12-0.11.0.2.tgz -C /opt/

2）修改解压后的文件名称

[root@wyl01 opt]#  ln -s  kafka_2.12-0.11.0.2 kafka

3）在/opt/kafka目录下创建logs文件夹  
既是数据目录也是日志目录

[root@wyl01 kafka]# mkdir logs

4）修改配置文件

[root@wyl01 config]$ vi server.properties
    输入以下内容：
    #broker的全局唯一编号，不能重复
    broker.id=0
    #删除topic功能使能
    delete.topic.enable=true
    #处理网络请求的线程数量
    num.network.threads=3
    #用来处理磁盘IO的现成数量
    num.io.threads=8
    #发送套接字的缓冲区大小
    socket.send.buffer.bytes=102400
    #接收套接字的缓冲区大小
    socket.receive.buffer.bytes=102400
    #请求套接字的缓冲区大小
    socket.request.max.bytes=104857600
    #kafka运行日志存放的路径	
    log.dirs=/opt/module/kafka/logs
    #topic在当前broker上的分区个数
    num.partitions=1
    #用来恢复和清理data下数据的线程数量
    num.recovery.threads.per.data.dir=1
    #segment文件保留的最长时间，超时将被删除
    log.retention.hours=168
    #配置连接Zookeeper集群地址
    zookeeper.connect=wyl01:2181,wyl02:2181,wyl03:2181

5）配置环境变量

[root@wyl01 opt]# vim /etc/profile
    #添加以下内容
    export KAFKA_HOME=/opt/kafka
    export PATH=${KAFKA_HOME}/bin:$PATH
    
    #配置完要生效
    [root@wyl01 opt]# source /etc/profile

6）分发安装包

rsync -av kafka  kafka_2.12-0.11.0.2/  wyl02:/opt
    rsync -av kafka  kafka_2.12-0.11.0.2/  wyl03:/opt

7）分别在`wyl02`和`wyl03`上修改配置文件

注意：分发之后记得配置其他机器的环境变量，broker.id不得重复
    vim /opt/kafka/config/server.properties
    # wyl02改为
    broker.id=1
    # wyl03改为
    broker.id=2

8）启动集群  
依次在`wyl01、wyl02、wyl03`节点上启动kafka

[root@wyl01 kafka]# bin/kafka-server-start.sh config/server.properties &
    [root@wyl02 kafka]# bin/kafka-server-start.sh config/server.properties &
    [root@wyl03 kafka]# bin/kafka-server-start.sh config/server.properties &

9）关闭集群

[root@wyl01 kafka]# bin/kafka-server-stop.sh stop
    [root@wyl02 kafka]# bin/kafka-server-stop.sh stop
    [root@wyl03 kafka]# bin/kafka-server-stop.sh stop

下图我们可以看到每个节点上都起了kafka进程。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70 2]

### 5 验证kafka集群 ###

1）查看当前服务器中的所有topic

[root@wyl01 kafka]# bin/kafka-topics.sh --zookeeper wyl01:2181 --list

2）创建topic

[root@wyl01 kafka]# bin/kafka-topics.sh --zookeeper wyl01:2181 --create --replication-factor 2 --partitions 2 --topic test
        Created topic "test".
       # 上述指令创建了一个2个分区2个副本的名为`test`的`topic`
    [root@wyl01 kafka]# bin/kafka-topics.sh --zookeeper wyl01:2181 --create --partitions 3 --replication-factor3  --topic wyltopic
           Created topic "wyltopic".

![在这里插入图片描述][20190522174407212.png]  
![在这里插入图片描述][20190522174432260.png]  
![在这里插入图片描述][20190522174457604.png]  
3）删除topic

[root@wyl01 kafka]#   bin/kafka-topics.sh --zookeeper wyl01:2181 --delete --topic test
    需要server.properties中设置delete.topic.enable=true否则只是标记删除或者直接重启。

4）发送消息

[root@wyl01 kafka]#  bin/kafka-console-producer.sh --broker-list wyl01:9092 --topic test
    >hello world
    >hello wyl

可以看到信息存储在log下的test-1分区中的  
![在这里插入图片描述][20190522175636699.png]  
5）消费消息

[root@wyl01 kafka]# bin/kafka-console-consumer.sh --zookeeper wyl01:2181 --from-beginning --topic test
        Using the ConsoleConsumer with old consumer is deprecated and will be removed in a future major release. Consider using the new consumer by passing [bootstrap-server] instead of [zookeeper].
        hello world
         hello wyl
    
        --from-beginning：会把test主题中以往所有的数据都读取出来。根据业务场景选择是否增加该配置。

Using the ConsoleConsumer with old consumer is deprecated and will be removed in a future major release. Consider using the new consumer by passing [bootstrap-server] instead of [zookeeper].
    # 采取下面方式新版中使用消费者获取消息方式
    [root@wyl01 kafka]# bin/kafka-console-consumer.sh --bootstrap-server wyl01:9092 --from-beginning --topic test
    hello world
    hello wyl

![在这里插入图片描述][2019052218063634.png]

6）查看某个Topic的详情

[root@wyl01 opt]#  ./kafka/bin/kafka-topics.sh --zookeeper wyl01:2181 --describe --topic test
    Topic:test	PartitionCount:2	ReplicationFactor:2	Configs:
    	Topic: test	Partition: 0	Leader: 2	Replicas: 2,1	Isr: 2,1
    	Topic: test	Partition: 1	Leader: 2	Replicas: 0,2	Isr: 2

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70]: /images/20220612/0b6a83c64db7406f92e6a41bc5d6cf5b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70 1]: /images/20220612/1051e8e407e4428086d69925ccc04f60.png
[kafka_2.12-0.11.0.2.tgz]: https://archive.apache.org/dist/kafka/0.11.0.2/kafka_2.12-0.11.0.2.tgz
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d5bDk1Mjc_size_16_color_FFFFFF_t_70 2]: /images/20220612/19fa870d1dbd43e2a3b5126a33bf318e.png
[20190522174407212.png]: /images/20220612/dfe03d959c524bf5be9afd308a530bcc.png
[20190522174432260.png]: /images/20220612/d2d742ec8b6a477a9cfa90a39e56f2b9.png
[20190522174457604.png]: /images/20220612/32d97e5c75704d5bb06f26b02ac53e72.png
[20190522175636699.png]: /images/20220612/e9bf58bfe23d48d19eae1a13e1cfac57.png
[2019052218063634.png]: /images/20220612/4ec5aaec83db4f29a5095ccd8e761328.png