HBase完全分布式集群部署
1.簡(jiǎn)介
HBase是一個(gè)分布式的、面向列的開(kāi)源數(shù)據(jù)庫(kù),它不同于一般的關(guān)系數(shù)據(jù)庫(kù),是一個(gè)適合于非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)的數(shù)據(jù)庫(kù)。另一個(gè)不同的是HBase基于列的而不是基于行的模式。HBase使用和 BigTable非常相同的數(shù)據(jù)模型。用戶存儲(chǔ)數(shù)據(jù)行在一個(gè)表里。一個(gè)數(shù)據(jù)行擁有一個(gè)可選擇的鍵和任意數(shù)量的列,一個(gè)或多個(gè)列組成一個(gè)ColumnFamily,一個(gè)Fmaily下的列位于一個(gè)HFile中,易于緩存數(shù)據(jù)。表是疏松的存儲(chǔ)的,因此用戶可以給行定義各種不同的列。在HBase中數(shù)據(jù)按主鍵排序,同時(shí)表按主鍵劃分為多個(gè)Region。
在分布式的生產(chǎn)環(huán)境中,HBase 需要運(yùn)行在 HDFS 之上,以 HDFS 作為其基礎(chǔ)的存儲(chǔ)設(shè)施。HBase 上層提供了訪問(wèn)的數(shù)據(jù)的 Java API 層,供應(yīng)用訪問(wèn)存儲(chǔ)在 HBase 的數(shù)據(jù)。在 HBase 的集群中主要由 Master 和 Region Server 組成,以及 Zookeeper,具體模塊如下圖所示:
簡(jiǎn)單介紹一下 HBase 中相關(guān)模塊的作用:
Master
HBase Master用于協(xié)調(diào)多個(gè)Region Server,偵測(cè)各個(gè)RegionServer之間的狀態(tài),并平衡RegionServer之間的負(fù)載。HBaseMaster還有一個(gè)職責(zé)就是負(fù)責(zé)分配Region給RegionServer。HBase允許多個(gè)Master節(jié)點(diǎn)共存,但是這需要Zookeeper的幫助。不過(guò)當(dāng)多個(gè)Master節(jié)點(diǎn)共存時(shí),只有一個(gè)Master是提供服務(wù)的,其他的Master節(jié)點(diǎn)處于待命的狀態(tài)。當(dāng)正在工作的Master節(jié)點(diǎn)宕機(jī)時(shí),其他的Master則會(huì)接管HBase的集群。
Region Server
對(duì)于一個(gè)RegionServer而言,其包括了多個(gè)Region。RegionServer的作用只是管理表格,以及實(shí)現(xiàn)讀寫(xiě)操作。Client直接連接RegionServer,并通信獲取HBase中的數(shù)據(jù)。對(duì)于Region而言,則是真實(shí)存放HBase數(shù)據(jù)的地方,也就說(shuō)Region是HBase可用性和分布式的基本單位。如果當(dāng)一個(gè)表格很大,并由多個(gè)CF組成時(shí),那么表的數(shù)據(jù)將存放在多個(gè)Region之間,并且在每個(gè)Region中會(huì)關(guān)聯(lián)多個(gè)存儲(chǔ)的單元(Store)。
Zookeeper
對(duì)于 HBase 而言,Zookeeper的作用是至關(guān)重要的。首先Zookeeper是作為HBase Master的HA解決方案。也就是說(shuō),是Zookeeper保證了至少有一個(gè)HBase Master 處于運(yùn)行狀態(tài)。并且Zookeeper負(fù)責(zé)Region和Region Server的注冊(cè)。其實(shí)Zookeeper發(fā)展到目前為止,已經(jīng)成為了分布式大數(shù)據(jù)框架中容錯(cuò)性的標(biāo)準(zhǔn)框架。不光是HBase,幾乎所有的分布式大數(shù)據(jù)相關(guān)的開(kāi)源框架,都依賴于Zookeeper實(shí)現(xiàn)HA。
HBase集群建立在hadoop集群基礎(chǔ)之上,所以在搭建HBase集群之前需要把Hadoop集群搭建起來(lái),并且要考慮二者的兼容性。
2.環(huán)境準(zhǔn)備
(1)各服務(wù)器其修改主機(jī)名,添加hosts文件,關(guān)閉防火墻
- [root@c7001 ~]# cat >> /etc/hosts << EOF
- 192.168.16.135 c7001
- 192.168.16.80 c7002
- 192.168.16.95 c7003
- 192.168.16.97 c7004
- 192.168.16.101 c7005
- EOF
(2)c7001配置ssh免密登陸,用于啟動(dòng)集群
- ssh-keygen -t rsa
- sh-copy-id -i ~/.ssh/id_rsa.pub c7001
- ssh-copy-id -i ~/.ssh/id_rsa.pub c7002
- ssh-copy-id -i ~/.ssh/id_rsa.pub c7003
- ssh-copy-id -i ~/.ssh/id_rsa.pub c7004
- ssh-copy-id -i ~/.ssh/id_rsa.pub c7005
(3) 各服務(wù)器配置jdk1.7+
- [root@c7001 ~]# tar zxf jdk-8u171-linux-x64.tar.gz -C /opt/
- [root@c7001 opt]# mv jdk1.8.0_171/ jdk1.8
- [root@c7001 opt]# vim /etc/profile
- export JAVA_HOME=/opt/jdk1.8
- export PATH=$PATH:$JAVA_HOME/bin
- [root@c7001 ~] source /etc/profile
- [root@c7001 opt]# java -version
- java version "1.8.0_171
3.安裝hbase
- c7003 c7004 c7005
- [root@c7003 opt]# tar zxf /usr/src/hbase-1.3.0-bin.tar.gz -C /opt/
修改配置文件
- [root@c7003 hbase-1.3.0]# vim conf/hbase-env.sh
- #修改jdk變量
- JAVA_HOME=export JAVA_HOME=/opt/jdk1.8.0_121
- #關(guān)閉HBase自帶的Zookeeper,使用Zookeeper集群:
- export HBASE_MANAGES_ZK=false
編輯hbase-site.xml ,添加配置文件:
- <?xml version="1.0"?>
- <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
- <configuration>
- <property>
- <name>hbase.rootdir</name>
- <value>hdfs://c7001:9000/hbase</value>
- </property>
- <property>
- <name>hbase.cluster.distributed</name>
- <value>true</value>
- </property>
- <property>
- <name>hbase.zookeeper.quorum</name>
- <value>c7003,c7004,c7005</value>
- </property>
- <property>
- <name>hbase.zookeeper.property.dataDir</name>
- <value>/opt/hbase-1.3.0/tmp/zk/data</value>
- </property>
- </configuration>
- vi regionservers
- #加入如下內(nèi)容:
- c7004
- c7005
把Hbase復(fù)制到其他機(jī)器
- [root@c7003 opt]$ scp -r hbase-1.3.0 root@c7004:/opt/
- [root@c7003 opt]$ scp -r hbase-1.3.0 root@c7005:/opt/
啟動(dòng)集群
- [root@c7003 hbase-1.3.0]$ bin/start-hbase.sh
web訪問(wèn) ip:16010
各節(jié)點(diǎn)進(jìn)程(The picture is replicating)