HBase概念,安装及shell命令

HBASE

第1章 HBase简介

1.1 HBase定义

HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。

1.2 HBase数据模型

逻辑上,HBase的数据模型同关系型数据库很类似,数据存储在一张表中,有行有列。但从HBase的底层物理存储结构(K-V)来看,HBase更像是一个multi-dimensional map。

1.2.1 HBase逻辑结构

HBase概念,安装及shell命令_第1张图片

1.2.2 HBase物理存储结构

HBase概念,安装及shell命令_第2张图片

1.2.3 数据模型

1**)Name Space**

命名空间,类似于关系型数据库的database概念,每个命名空间下有多个表。HBase两个自带的命名空间,分别是hbase和default,hbase中存放的是HBase内置的表,default表是用户默认使用的命名空间。

2**)Table**

类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,不需要声明具体的列。这意味着,往HBase写入数据时,字段可以动态、按需指定。因此,和关系型数据库相比,HBase能够轻松应对字段变更的场景。

3**)Row**

HBase表中的每行数据都由一个RowKey和多个Column(列)组成,数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进行检索,所以RowKey的设计十分重要。

4**)Column**

HBase中的每个列都由Column Family(列族)和Column Qualifier(列限定符)进行限定,例如info:name,info:age。建表时,只需指明列族,而列限定符无需预先定义。

5**)Time Stamp**

用于标识数据的不同版本(version),每条数据写入时,系统会自动为其加上该字段,其值为写入HBase的时间。

6**)Cell**

由{rowkey, column Family:column Qualifier, time Stamp} 唯一确定的单元。cell中的数据全部是字节码形式存贮。

1.3 HBase基本架构

(不完整版)
HBase概念,安装及shell命令_第3张图片

架构角色:

1**)Region Server**

Region Server为 Region的管理者,其实现类为HRegionServer,主要作用如下:

对于数据的操作:get, put, delete;

对于Region的操作:splitRegion、compactRegion。

2**)Master**

Master是所有Region Server的管理者,其实现类为HMaster,主要作用如下:

对于表的操作:create, delete, alter

对于RegionServer的操作:分配regions到每个RegionServer,监控每个RegionServer的状态,负载均衡和故障转移。

3**)Zookeeper**

HBase通过Zookeeper来做master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。

4**)HDFS**

HDFS为Hbase提供最终的底层数据存储服务,同时为HBase提供高可用的支持。

第2章 HBase快速入门

2.1 HBase安装部署

2.1.1 Zookeeper正常部署

首先保证Zookeeper集群的正常部署,并启动之:

bin/zkServer.sh start
bin/zkServer.sh start
bin/zkServer.sh start

2.1.2 Hadoop正常部署

Hadoop集群的正常部署并启动:

sbin/start-dfs.sh
sbin/start-yarn.sh

2.1.3 HBase的解压

解压Hbase到指定目录:

tar -zxvf hbase-2.0.5-bin.tar.gz -C /opt/module
mv /opt/module/hbase-2.0.5 /opt/module/hbase

配置环境变量

sudo vim /etc/profile.d/my_env.sh
==========================
#HBASE_HOME
export HBASE_HOME=/opt/module/hbase
export PATH=$PATH:$HBASE_HOME/bin

2.1.4 HBase的配置文件

修改HBase对应的配置文件。

1.hbase-env.sh修改内容:

是为了使用自己安装的zookeeper而不是用HBase自带的

export HBASE_MANAGES_ZK=false

2.hbase-site.xml修改内容:


    
        hbase.rootdir
        hdfs://hadoop102:8020/hbase
    

    
        hbase.cluster.distributed
        true
    

    
        hbase.zookeeper.quorum
        hadoop102,hadoop103,hadoop104
    

3.regionservers:

hadoop102
hadoop103
hadoop104

2.1.5 HBase远程发送到其他集群

2.1.6 HBase服务的启动

bin/hbase-daemon.sh start master
bin/hbase-daemon.sh start regionserver

提示:如果集群之间的节点时间不同步,会导致regionserver无法启动,抛出ClockOutOfSyncException异常。

修复提示:

a、同步时间服务

b、属性:hbase.master.maxclockskew设置更大的值


        hbase.master.maxclockskew
        180000
        Time difference of regionserver from master

2.1.7 查看HBase页面

启动成功后,可以通过“host:port”的方式来访问HBase管理页面,例如:

http://hadoop102:16010

2.1.8 高可用(可选)

在HBase中HMaster负责监控HRegionServer的生命周期,均衡RegionServer的负载,如果HMaster挂掉了,那么整个HBase集群将陷入不健康的状态,并且此时的工作状态并不会维持太久。所以HBase支持对HMaster的高可用配置。

在conf目录下创建backup-masters文件

touch conf/backup-masters

在backup-masters文件中配置高可用HMaster节点

echo hadoop103 > conf/backup-masters

将整个conf目录scp到其他节点

2.2 HBase Shell操作

2.2.1 基本操作

1**.进入HBase客户端命令行**

 bin/hbase shell

2**.查看帮助命令**

hbase(main):001:0> help

2.2.2 namespace的操作

1**.查看当前Hbase中有哪些namespace**

hbase(main):002:0> list_namespace

2**.创建namespace**

hbase(main):010:0>  create_namespace "test"

hbase(main):010:0> create_namespace "test01", {"author"=>"wyh", "create_time"=>"2020-03-10 08:08:08"}

**3.**查看namespace

hbase(main):010:0> describe_namespace “test01”

**4.**修改namespace的信息(添加或者修改属性)

hbase(main):010:0> alter_namespace “test01”, {METHOD => ‘set’, ‘author’ => ‘ll’}

**5.**删除namespace

hbase(main):010:0> drop_namespace “test01”

注意: 要删除的namespace必须是空的,其下没有表。

2.2.3 表的操作

0**.查看当前数据库中有哪些表**

hbase(main):002:0> list

1**.创建表**

hbase(main):002:0> create ‘student’,‘info’

2**.插入数据到表**

hbase(main):003:0> put ‘student’,‘1001’,‘info:sex’,‘male’

hbase(main):004:0> put ‘student’,‘1001’,‘info:age’,‘18’

hbase(main):005:0> put ‘student’,‘1002’,‘info:name’,‘Janna’

hbase(main):006:0> put ‘student’,‘1002’,‘info:sex’,‘female’

hbase(main):007:0> put ‘student’,‘1002’,‘info:age’,‘20’

3**.扫描查看表数据**

hbase(main):008:0> scan ‘student’

hbase(main):009:0> scan ‘student’,{STARTROW => ‘1001’, STOPROW => ‘1001’}

hbase(main):010:0> scan ‘student’,{STARTROW => ‘1001’}

4**.查看表结构**

hbase(main):011:0> describe ‘student’

5**.更新指定字段的数据**

hbase(main):012:0> put ‘student’,‘1001’,‘info:name’,‘Nick’

hbase(main):013:0> put ‘student’,‘1001’,‘info:age’,‘100’

6**.查看“指定行”或“指定列族:列”的数据**

hbase(main):014:0> get ‘student’,‘1001’

hbase(main):015:0> get ‘student’,‘1001’,‘info:name’

7**.统计表数据行数**

hbase(main):021:0> count ‘student’

8**.删除数据**

删除某rowkey的全部数据:

hbase(main):016:0> deleteall ‘student’,‘1001’

删除某rowkey的某一列数据:

hbase(main):017:0> delete ‘student’,‘1002’,‘info:sex’

9**.清空表数据**

hbase(main):018:0> truncate ‘student’

提示:清空表的操作顺序为先disable,然后再truncate。

10**.删除表**

首先需要先让该表为disable状态:

hbase(main):019:0> disable ‘student’

然后才能drop这个表:

hbase(main):020:0> drop ‘student’

提示:如果直接drop表,会报错:ERROR: Table student is enabled. Disable it first.

11**.变更表信息**

将info列族中的数据存放3个版本:

hbase(main):022:0> alter ‘student’,{NAME=>‘info’,VERSIONS=>3}

序为先disable,然后再truncate。

10**.删除表**

首先需要先让该表为disable状态:

hbase(main):019:0> disable ‘student’

然后才能drop这个表:

hbase(main):020:0> drop ‘student’

提示:如果直接drop表,会报错:ERROR: Table student is enabled. Disable it first.

11**.变更表信息**

将info列族中的数据存放3个版本:

hbase(main):022:0> alter ‘student’,{NAME=>‘info’,VERSIONS=>3}

hbase(main):022:0> get ‘student’,‘1001’,{COLUMN=>‘info:name’,VERSIONS=>3}

你可能感兴趣的:(HBase,hbase,大数据)