HBase环境搭建之全分布模式

r囧r小猫 2022-05-08 02:52 235阅读 0赞

HBase环境搭建有三种方式：1.本地模式：只需要一个节点（只有HMaster，没有HRegionServer），不需要集成ZooKeeper，数据存储在本地文件系统上；2.伪分布模式：只需要一个节点（HMaster和HRegionServer在同一个节点上），需要集成ZooKeeper，数据存储在HDFS上；3.全分布模式：至少需要3个节点（一个HMaster节点和至少2个HRegionServer节点），需要集成ZooKeeper，数据存储在HDFS上。本节先来介绍HBase伪分布模式的环境搭建过程。

集群环境介绍：

master 192.168.112.10
    slave1 192.168.112.11
    slave2 192.168.112.12

安装包：zookeeper-3.4.11：[https://pan.baidu.com/s/1\_6TQRcybzU4PDY\_-oOREmA][https_pan.baidu.com_s_1_6TQRcybzU4PDY_-oOREmA]

## 1.搭建Hadoop全分布环境 ##

Hadoop全分布模式的搭建过程请参看文章：[https://blog.csdn.net/qq\_28286027/article/details/82973196][https_blog.csdn.net_qq_28286027_article_details_82973196]

## 2.搭建ZooKeeper伪分布环境 ##

Zookeeper有两种常见的搭建方式：1.standalone方式；2.集群方式。这两者的区别是：

1.  standalone方式只需要一个Zookeeper节点；集群方式至少需要3个节点（一个leader，2个follower）；
2.  standalone方式一旦Zookeeper节点宕机，Spark HA就不能使用了；
3.  集群方式如果leader宕机，Zookeeper内部会从follower中选举出一个新的leader，可以对HA提供更有效的保障。

这里来介绍Zookeeper的standalone方式的搭建过程：

1.上传Zookeeper安装包

/usr/local/src/zookeeper-3.4.11

2.解压Zookeeper安装包

tar -xvf zookeeper-3.4.11.tar

3.配置Zookeeper环境变量:

\[root@master src\]\# vim /root/.bash\_profile

\#zookeeper  
ZOOKEEPER\_HOME=/usr/local/src/zookeeper-3.4.11  
export ZOOKEEPER\_HOME  
PATH=$ZOOKEEPER\_HOME/bin:$PATH  
export PATH

及时生效：[root@master tools]# source /root/.bash_profile

4.配置Zookeeper参数

4.1创建Zookeeper保存数据的目录：

/usr/local/src/zookeeper-3.4.11/tmp

4.2编辑Zookeeper的配置文件zoo.cfg：

[root@master conf]# cp zoo_sample.cfg zoo.cfg
    [root@master conf]# vim zoo.cfg
    #dataDir=/tmp/zookeeper
    dataDir=/usr/local/src/zookeeper-3.4.11/tmp
    server.1=master:2888:3888

2888端口：是zookeeper服务之间进行通信的端口

3888端口：是zookeeper与其他程序之间进行通信的端口

4.3启动zookeeper

\[root@master conf\]\# zkServer.sh start  
ZooKeeper JMX enabled by default  
Using config: /usr/local/src/zookeeper-3.4.11/bin/../conf/zoo.cfg  
Starting zookeeper ... STARTED  
\[root@master conf\]\# jps  
2709 SecondaryNameNode  
2522 NameNode  
**3403 QuorumPeerMain**  
3420 Jps  
2863 ResourceManager  
\[root@master conf\]\#

## 3.搭建HBase全分布环境（注意：这里需要Java的版本在1.8以上） ##

1.下载HBase安装包

可以从上面的安装介质链接中下载HBase安装包，或者去HBase官网[hbase.apache.org][]下载最新HBase安装包，然后使用WinSCP工具将下载好的安装包上传至master节点的/usr/local/src目录下。

/usr/local/src/hbase-2.0.1

2.解压：

tar -zxvf  hbase-2.0.1-bin.tar.gz

3.配置HBase环境变量（三台机器都做一遍）

root@master tools]# cd /usr/local/src/hbase-2.0.1/
    [root@master hbase-2.0.1]# pwd
    /usr/local/src/hbase-2.0.1
    [root@master hbase-2.0.1]# vim /root/.bash_profile
    HBASE_HOME=/usr/local/src/hbase-2.0.1
    export HBASE_HOME
    PATH=$HBASE_HOME/bin:$PATH
    export PATH
    [root@master hbase-2.0.1]# source /root/.bash_profile

4.配置HBase配置文件

配置前启动Hadoop全分布集群：

[root@master sbin]# ./start-all.sh，启动后在HDFS上新建一个目录用来存储HBase的数据：

[root@master ~]# hdfs dfs -mkdir /hbase

4.1进入$HBASE\_HOME/conf目录，配置hbase-env.sh：

[root@master conf]# vim hbase-env.sh
    # The java implementation to use. Java 1.8+ required.
    # export JAVA_HOME=/usr/java/jdk1.8.0/
    export JAVA_HOME=/root/trainings/jdk1.8.0_144
    export HBASE_MANAGES_ZK=true（使用hbase自带的zookeeper）

4.2配置hbase-site.xml

[root@localhost conf]# vim hbase-site.xml
    <configuration>
      <property>
        <name>hbase.rootdir</name>
        <value>hdfs://master:9000/hbase</value>
      </property>
      <property> 
        <name>hbase.cluster.distributed</name> 
        <value>true</value> 
      </property>
      <property> 
        <name>hbase.zookeeper.quorum</name> 
        <value>master</value> 
      </property>
      <property> 
        <name>dfs.replication</name> 
        <value>2</value> 
      </property>
    </configuration>

4.3配置regionservers

[root@master conf]# vim regionservers
    slave1
    slave2

4.4将配置好的HBase目录分发给从节点

\[root@master src\]\# scp -rp hbase-2.0.1 slave1:/usr/local/src/

\[root@master src\]\# scp -rp hbase-2.0.1 slave2:/usr/local/src/

5.启动HBase集群

\[root@master src\]\# start-hbase.sh  
SLF4J: Class path contains multiple SLF4J bindings.  
SLF4J: Found binding in \[jar:file:/usr/local/src/hbase-2.0.1/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: Found binding in \[jar:file:/usr/local/src/hadoop-2.7.3/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: See http://www.slf4j.org/codes.html\#multiple\_bindings for an explanation.  
SLF4J: Actual binding is of type \[org.slf4j.impl.Log4jLoggerFactory\]  
SLF4J: Class path contains multiple SLF4J bindings.  
SLF4J: Found binding in \[jar:file:/usr/local/src/hbase-2.0.1/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: Found binding in \[jar:file:/usr/local/src/hadoop-2.7.3/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: See http://www.slf4j.org/codes.html\#multiple\_bindings for an explanation.  
SLF4J: Actual binding is of type \[org.slf4j.impl.Log4jLoggerFactory\]  
master: running zookeeper, logging to /usr/local/src/hbase-2.0.1/bin/../logs/hbase-root-zookeeper-master.out  
running master, logging to /usr/local/src/hbase-2.0.1/logs/hbase-root-master-master.out  
slave1: running regionserver, logging to /usr/local/src/hbase-2.0.1/bin/../logs/hbase-root-regionserver-slave1.out  
slave2: running regionserver, logging to /usr/local/src/hbase-2.0.1/bin/../logs/hbase-root-regionserver-slave2.out  
\[root@master src\]\#

\[root@master src\]\# jps  
2709 SecondaryNameNode  
2522 NameNode  
3930 Jps  
3693 HQuorumPeer  
2863 ResourceManager  
3759 HMaster

\[root@slave1 ~\]\# jps  
2288 NodeManager  
2180 DataNode  
2505 HRegionServer  
2638 Jps

\[root@slave2 ~\]\# jps  
2657 Jps  
2500 HRegionServer  
2262 NodeManager  
2153 DataNode

可以看到，HBase全分布模式启动之后HMaster进程和HRegionServer进程在位于不同的节点上。

可以在网页上监控HBase的状态信息：端口号16010

![70][]

### 使用HBase shell ###

使用hbase shell命令可以进入HBase命令行模式：

[root@master ~]# hbase shell
    2018-07-16 23:32:59,553 WARN [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
    HBase Shell
    Use "help" to get list of supported commands.
    Use "exit" to quit this interactive shell.
    Version 2.0.1, r987f7b6d37c2fcacc942cc66e5c5122aba8fdfbe, Wed Jun 13 12:03:55 PDT 2018
    Took 0.0020 seconds
    hbase(main):001:0> create 'tblStudent','Info','Grade'
    Created table tblStudent
    Took 1.8144 seconds
    => Hbase::Table - tblStudent
    hbase(main):002:0> put 'tblStudent','stu001','Info:name','Tom'
    Took 0.1655 seconds
    hbase(main):003:0> put 'tblStudent','stu001','Info:age','25'
    Took 0.0129 seconds
    hbase(main):004:0> put 'tblStudent','stu001','Grade:chinese','88'
    Took 0.0053 seconds
    hbase(main):005:0> put 'tblStudent','stu001','Grade:math','90'
    Took 0.0080 seconds
    hbase(main):006:0> put 'tblStudent','stu002','Info:name','Jack'
    Took 0.0042 seconds
    hbase(main):007:0> put 'tblStudent','stu002','Info:age','23'
    Took 0.6333 seconds
    hbase(main):008:0> put 'tblStudent','stu002','Grade:english','78'
    Took 0.0457 seconds
    hbase(main):009:0> put 'tblStudent','stu002','Grade:math','60'
    Took 0.0108 seconds
    hbase(main):010:0> scan 'tblStudent'
    ROW COLUMN+CELL
    stu001 column=Grade:chinese, timestamp=1531755222379, value=88
    stu001 column=Grade:math, timestamp=1531755227442, value=90
    stu001 column=Info:age, timestamp=1531755216220, value=25
    stu001 column=Info:name, timestamp=1531755211017, value=Tom
    stu002 column=Grade:english, timestamp=1531755253054, value=78
    stu002 column=Grade:math, timestamp=1531755258620, value=60
    stu002 column=Info:age, timestamp=1531755246729, value=23
    stu002 column=Info:name, timestamp=1531755232841, value=Jack
    2 row(s)
    Took 0.0607 seconds
    hbase(main):011:0> quit

使用quit命令退出HBase命令行环境。

查看HDFS上/hbase目录下产生的数据：

\[root@slave2 ~\]\# hdfs dfs -ls /hbase  
Found 12 items  
drwxr-xr-x   - root supergroup          0 2018-10-06 01:16 /hbase/.hbck  
drwxr-xr-x   - root supergroup          0 2018-10-08 22:53 /hbase/.tmp  
drwxr-xr-x   - root supergroup          0 2018-10-08 22:53 /hbase/MasterProcWALs  
drwxr-xr-x   - root supergroup          0 2018-10-08 22:53 /hbase/WALs  
drwxr-xr-x   - root supergroup          0 2018-10-07 13:02 /hbase/archive  
drwxr-xr-x   - root supergroup          0 2018-10-06 01:16 /hbase/corrupt  
drwxr-xr-x   - root supergroup          0 2018-10-06 01:16 /hbase/data  
\-rw-r--r--   2 root supergroup         42 2018-10-06 01:16 /hbase/hbase.id  
\-rw-r--r--   2 root supergroup          7 2018-10-06 01:16 /hbase/hbase.version  
drwxr-xr-x   - root supergroup          0 2018-10-06 01:16 /hbase/mobdir  
drwxr-xr-x   - root supergroup          0 2018-10-08 22:53 /hbase/oldWALs  
drwx--x--x   - root supergroup          0 2018-10-06 01:16 /hbase/staging

### 停止HBase全分布模式 ###

\[root@master src\]\# stop-hbase.sh  
stopping hbase.................  
SLF4J: Class path contains multiple SLF4J bindings.  
SLF4J: Found binding in \[jar:file:/usr/local/src/hbase-2.0.1/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: Found binding in \[jar:file:/usr/local/src/hadoop-2.7.3/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: See http://www.slf4j.org/codes.html\#multiple\_bindings for an explanation.  
SLF4J: Actual binding is of type \[org.slf4j.impl.Log4jLoggerFactory\]  
SLF4J: Class path contains multiple SLF4J bindings.  
SLF4J: Found binding in \[jar:file:/usr/local/src/hbase-2.0.1/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: Found binding in \[jar:file:/usr/local/src/hadoop-2.7.3/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class\]  
SLF4J: See http://www.slf4j.org/codes.html\#multiple\_bindings for an explanation.  
SLF4J: Actual binding is of type \[org.slf4j.impl.Log4jLoggerFactory\]  
master: running zookeeper, logging to /usr/local/src/hbase-2.0.1/bin/../logs/hbase-root-zookeeper-master.out  
master: stopping zookeeper.  
\[root@master src\]\# jps  
2709 SecondaryNameNode  
4486 Jps  
2522 NameNode  
2863 ResourceManager  
\[root@master src\]\#

\[root@slave1 ~\]\# jps  
2288 NodeManager  
2180 DataNode  
2751 Jps

\[root@slave2 ~\]\# jps  
3378 Jps  
2262 NodeManager  
2153 DataNode

至此，HBase全分布模式环境搭建完成！

[https_pan.baidu.com_s_1_6TQRcybzU4PDY_-oOREmA]: https://pan.baidu.com/s/1_6TQRcybzU4PDY_-oOREmA
[https_blog.csdn.net_qq_28286027_article_details_82973196]: https://blog.csdn.net/qq_28286027/article/details/82973196
[hbase.apache.org]: http://hbase.apache.org/
[70]: /images/20220508/ccbdaf1e742c4cf0bf14d94ed1bb34fb.png

发表评论取消回复

表情：

评论列表（有 0 条评论，235人围观）

还没有评论，来说两句吧...

相关阅读

相关【HBase】HBase系列之HBase概述及环境搭建

HBase Apache HBase HBase简介特性环境构建架构草图单

短命女/ 2023年10月05日 11:26/ 0 赞/ 53 阅读

相关 HBase 环境搭建

下载 HBase HBase 官网地址：[http://hbase.apache.org/downloads.html][http_hbase.apache.org_do

谁践踏了优雅/ 2022年11月28日 13:48/ 0 赞/ 136 阅读

相关 hbase完全分布式的搭建

最近开始接触hbase，就从hbase完全分布式搭建开始记录一下。hbase完全分布式的搭建基于hadoop ha搭建基础上，hadoop ha搭建见:[Hadoop MapR

╰+哭是因爲堅強的太久メ/ 2022年11月19日 09:55/ 0 赞/ 198 阅读

相关【Hadoop】Hadoop的目录结构和脚本与环境搭建（本地模式、伪分布模式和全分布模式）

搭建Hadoop环境（本地模式、伪分布模式和全分布模式） 1 Hadoop的目录结构和脚本 1.1 核实已有配置 1.2 安装Hadoop

「爱情、让人受尽委屈。」/ 2022年10月19日 08:54/ 0 赞/ 242 阅读

相关【Hbase】搭建Hbase的本地模式、伪分布模式、全分布模式和HA模式

搭建Hbase的本地模式、伪分布模式、全分布模式和HA 0 共同操作 1 搭建Hbase的本地模式 1.1 搭建步骤 1.2 搭建实

旧城等待，/ 2022年08月31日 06:41/ 0 赞/ 312 阅读

相关 HBase单机环境搭建

在搭建HBase单机环境之前，首先你要保证你已经搭建好Java环境： $ java -version java version "1.8.0_51"

╰半夏微凉°/ 2022年08月02日 09:59/ 0 赞/ 222 阅读

相关搭建hbase伪分布

1.下载 http://archive.cloudera.com/cdh5/cdh/5/hbase-1.2.0-cdh5.7.5.tar.gz 2.解压 tar

我不是女神ヾ/ 2022年06月06日 01:09/ 0 赞/ 298 阅读

相关 Hbase分布式搭建之Hbase搭建

在安装之前先介绍下Hbase，Hadoop生态系统中HBase所处位置，实现的功能，解决的问题。 HBase – Hadoop Database，是一个高可靠性、高性能、面向

刺骨的言语ヽ痛彻心扉/ 2022年05月29日 02:30/ 0 赞/ 426 阅读

相关 HBase环境搭建之全分布模式

HBase环境搭建有三种方式：1.本地模式：只需要一个节点（只有HMaster，没有HRegionServer），不需要集成ZooKeeper，数据存储在本地文件系统上；2.伪

r囧r小猫/ 2022年05月08日 02:52/ 0 赞/ 236 阅读

相关 hbase 2.1 环境搭建--独立模式 Standalone Mode

文章目录概述 jdk hbase 配置启动使用\`hbase shell\`命令行操作hbase 新建表新

绝地灬酷狼/ 2021年12月11日 18:17/ 0 赞/ 240 阅读