Flink HA安装配置实战

古城微笑少年丶 2022-05-29 13:42 221阅读 0赞

# **Flink HA配置文档** #

详细HA原因及原理介绍说明请查看此博客链接，  
[https://blog.csdn.net/xu470438000/article/details/79633824][https_blog.csdn.net_xu470438000_article_details_79633824]

本文档只涉及HA具体安装步骤

## **Flink Standalone集群HA配置** ##

1. HA集群环境规划

使用三台节点实现两主两从集群(由于笔记本性能限制，不能开启太多虚拟机，其实使用三台和四台机器在安装配置上没有本质区别)

Jobmanager：hadoop100 hadoop101【一个active，一个standby】

Taskmanager：hadoop101 hadoop102

zookeeper: hadoop100【建议使用外置zk集群，在这里我使用单节点zk来代替】

![70][]

2. 开始配置+启动

集群内所有节点的配置都一样，所以先从第一台机器hadoop100开始配置

ssh hadoop100

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> #首先按照之前配置standalone的参数进行修改 vi conf/flink-conf.yaml jobmanager.rpc.address: hadoop100 &nbsp; vi conf/slaves hadoop101 hadoop102 &nbsp; # 然后修改配置HA需要的参数 vi conf/masters hadoop100:8081 hadoop101:8081 &nbsp; vi conf/flink-conf.yaml high-availability:&nbsp;zookeeper&nbsp; high-availability.zookeeper.quorum: hadoop100:2181 high-availability.zookeeper.path.root:&nbsp;/flink high-availability.cluster-id:&nbsp;/cluster_one # 建议指定hdfs的全路径。如果某个flink节点没有配置hdfs的话，不指定全路径无法识别 high-availability.zookeeper.storageDir:&nbsp;hdfs://hadoop100:9000/flink/ha &nbsp; &nbsp; # 把hadoop100节点上修改好配置的flink安装目录拷贝到其他节点 cd /usr/local/ scp -rq flink-1.4.2 hadoop101:/usr/local scp -rq flink-1.4.2 hadoop102:/usr/local &nbsp; # 【先启动zk服务】 # 启动flink standalone HA集群，在hadoop100节点上启动如下命令 bin/start-cluster.sh </td> 
 </tr> 
 </tbody> 
</table>

3. 验证HA集群进程

查看机器进程会发现如下情况【此处只列出flink自身的进程信息，不包含zk，hadoop进程信息】

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> 登录hadoop100节点 执行jps: 20159 JobManager &nbsp; 登录hadoop101节点 执行jps: 7795 JobManager 8156 TaskManager &nbsp; 登录hadoop100节点 执行jps: 5046 TaskManager &nbsp; </td> 
 </tr> 
 </tbody> 
</table>

因为jobmanager节点都会启动web服务，也可以通过web界面进行验证

访问http://hadoop100:8081/\#/jobmanager/config

发现以下信息：

注意：此时就算是访问hadoop101:8081也会跳转回hadoop100:8081 因为现在hadoop100是active的jobmanager。从下图中也可以看出，点击jobmanager查看，显示哪个节点，就表示哪个节点现在是active的。

![70 1][]

4. 模拟jobmanager进程挂掉

现在hadoop100节点上的jobmanager是active的。我们手工把这个进程kill掉，模拟进程挂掉的情况，来验证hadoop101上的standby状态的jobmanager是否可以正常切换到active。

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> ssh hadoop100 执行jps： 20159 JobManager &nbsp; kill 20159 </td> 
 </tr> 
 </tbody> 
</table>

5. 验证HA切换

hadoop100节点上的jobmanager进程被手工kill掉了，然后hadoop101上的jobmanager会自动切换为active，中间需要有一个时间差，稍微等一下

访问http://hadoop101:8081/\#/jobmanager/config

如果可以正常访问并且能看到jobmanager的信息变为hadoop101，则表示jobmanager节点切换成功

![70 2][]

6. 重启之前kill掉的jobmanager

进入到hadoop100机器

ssh hadoop100

执行下面命令启动jobmanager

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> &nbsp;bin/jobmanager.sh start cluster </td> 
 </tr> 
 </tbody> 
</table>

启动成功之后，可以访问http://hadoop100:8081/\#/jobmanager/config

这个节点重启启动之后，就变为standby了。hadoop101还是active。

![70 3][]

## **Flink on yarn集群HA配置** ##

1. HA集群环境规划

flink on yarn的HA 其实是利用yarn自己的集群恢复机制。

在这需要用到zk，主要是因为虽然flink-on-yarn cluster HA依赖于Yarn自己的集群机制，但是Flink Job在恢复时，需要依赖检查点产生的快照，而这些快照虽然配置在hdfs，但是其元数据信息保存在zookeeper中，所以我们还要配置zookeeper的HA信息

hadoop集群搭建的伪分布，在hadoop100节点上面【flink on yarn 使用伪分布hadoop集群和真正分布式hadoop集群，在操作上没有区别】

zookeeper服务也在hadoop100节点上

![70 4][]

2. 开始配置+启动

主要在hadoop100这个节点上配置即可

首先需要修改hadoop中yarn-site.xml中的配置，设置提交应用程序的最大尝试次数

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> &lt;property&gt;&nbsp;&nbsp; &nbsp;&nbsp;&lt;name&gt;yarn.resourcemanager.am.max-attempts&lt;/name&gt;&nbsp;&nbsp; &nbsp;&nbsp;&lt;value&gt;4&lt;/value&gt;&nbsp;&nbsp; &nbsp;&nbsp;&lt;description&gt;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;The&nbsp;maximum&nbsp;number&nbsp;of&nbsp;application&nbsp;master&nbsp;execution&nbsp;attempts.&nbsp;&nbsp; &nbsp;&nbsp;&lt;/description&gt;&nbsp;&nbsp; &lt;/property&gt;&nbsp;&nbsp; </td> 
 </tr> 
 </tbody> 
</table>

然后修改flink部分相关配置

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> 可以解压一份新的flink-1.4.2安装包 tar -zxvf flink-1.4.2-bin-hadoop27-scala_2.11.tgz &nbsp; 修改配置文件【标红的目录名称建议和standalone HA中的配置区分开】 vi conf/flink-conf.yaml high-availability:&nbsp;zookeeper&nbsp;&nbsp; high-availability.zookeeper.quorum:&nbsp;hadoop100:2181&nbsp;&nbsp; high-availability.zookeeper.storageDir:&nbsp;hdfs://hadoop100:9000/flink/ha-yarn&nbsp;&nbsp; high-availability.zookeeper.path.root:&nbsp;/flink-yarn yarn.application-attempts:&nbsp;10&nbsp; &nbsp; </td> 
 </tr> 
 </tbody> 
</table>

3. 启动flink on yarn，测试HA

先启动hadoop100 上的zookeeper

在hadoop100上启动HA集群

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> cd /usr/local/flink-1.4.2 bin/yarn-session.sh&nbsp;-n&nbsp;2&nbsp; </td> 
 </tr> 
 </tbody> 
</table>

在hadoop100上执行jps命令，可以看到下面进程信息：

28680 YarnApplicationMasterRunner

jobmanager进程就在这个(YarnApplicationMasterRunner)进程里面

所以想要测试jobmanager的HA情况，只需要拿YarnApplicationMasterRunner这个进程进行测试即可。

执行下面命令手工模拟kill掉jobmanager（YarnApplicationMasterRunner）

kill 28680

然后你再执行jps 会发现，YarnApplicationMasterRunner这个进程又出现了。

并且还可以去yarn的web界面进行确认：

![70 5][]

发现这个程序的AttemptId变为00002了

![70 6][]

如果想查看jobmanager的webui界面可以点击下面链接：

![70 7][]

对比重启前后的jobmanager.rpc.port参数，会发现两次是不一样的，所以可以验证jobmanager是重启之后的。

![70 8][]

**获取更多大数据资料，视频以及技术交流请加群：**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3h1NDcwNDM4MDAw_size_16_color_FFFFFF_t_70][]

[https_blog.csdn.net_xu470438000_article_details_79633824]: https://blog.csdn.net/xu470438000/article/details/79633824
[70]: /images/20220529/ea4303b7d06445a0b7f668adab6d9777.png
[70 1]: /images/20220529/08406397e6c941c58005d627ca38157f.png
[70 2]: /images/20220529/56b9be5a3303442c8032a1203d8a3d90.png
[70 3]: /images/20220529/f344ac803f2345158f597b1a11bbc0da.png
[70 4]: /images/20220529/f71e2a27f5364914a933826352ca4ffc.png
[70 5]: /images/20220529/cf918946d11547d9a37b071ab2fe334e.png
[70 6]: /images/20220529/edba289217f448349ec72c48990cc844.png
[70 7]: /images/20220529/47e3165800984455b7def49ce11d58cc.png
[70 8]: /images/20220529/1bf5b5347f764d978c76c811136f9926.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3h1NDcwNDM4MDAw_size_16_color_FFFFFF_t_70]: /images/20220529/ad40484c47f04ac2a3ceaf32a3c8fe92.png