Hbase学习与总结

一．Hbase简介：

     Hbase是bigtable的开源山寨版本。它利用HadoopHDFS作为其文件存储系统，利用Hadoop MapReduce来处理HBase中的海量数据，利用Zookeeper作为协同服务。提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统。

它介于nosql和RDBMS之间，仅能通过主键(row key)和主键的range来检索数据，仅支持单行事务(可通过hive支持来实现多表join等复杂操作)。主要用来存储非结构化和半结构化的松散数据。

Pig和Hive还为HBase提供了高层语言支持，使得在HBase上进行数据统计处理变的非常简单。 Sqoop则为HBase提供了方便的RDBMS数据导入功能，使得传统数据库数据向HBase中迁移变的非常方便。

与hadoop一样，Hbase目标主要依靠横向扩展，通过不断增加廉价的商用服务器，来增加计算和存储能力。

 二.HBase中的表一般有这样的特点：

1 大：一个表可以有上亿行，上百万列

2 面向列:面向列(族)的存储和权限控制，列(族)独立检索。

3 稀疏:对于为空(null)的列，并不占用存储空间，因此，表可以设计的非常稀疏。

三.HBase访问接口:

1. Native Java API，最常规和高效的访问方式，适合Hadoop MapReduce Job并行批处理HBase表数据

2. HBase Shell，HBase的命令行工具，最简单的接口，适合HBase管理使用

3. Thrift Gateway，利用Thrift序列化技术，支持C++，PHP，Python等多种语言，适合其他异构系统在线访问HBase表数据

4. REST Gateway，支持REST 风格的Http API访问HBase, 解除了语言限制

5. Pig，可以使用PigLatin流式编程语言来操作HBase中的数据，和Hive类似，本质最终也是编译成MapReduce Job来处理HBase表数据，适合做数据统计

6. Hive,可以使用类似SQL语言来访问HBase

四．Hbase表结构：

1.Row Key（行健）：

     用来检索记录主键，Table中的记录按照Row Key排序。访问hbasetable中的行，只有三种方式：1. 通过单个row key访问；2.通过row key的range；3.全表扫描。

    Row key行键可以是任意字符串(最大长度是 64KB，实际应用中长度一般为10-100bytes)，在hbase内部，row key保存为字节数组。

    存储时，数据按照Row key的字典序(byteorder)排序存储。设计key时，将经常一起读取的行存储放到一起。

    字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21,…,9,91,92,93,94,95,96,97,98,99。要保持整形的自然序，行键必须用0作左填充。

2.Timestamp（时间戳）:

     每次数据操作对应的时间戳，可以看作是数据的version number。

     HBase中通过row和columns确定的为一个存贮单元称为cell。每个 cell都保存着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由hbase(在数据写入时自动 )赋值，此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突，就必须自己生成具有唯一性的时间戳。每个 cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。

     为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，hbase提供了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。

 3.Column Family（列族）：

      hbase表中的每个列，都归属与某个列族，Table在水平方向有一个或者多个ColumnFamily组成，一个Column Family中可以由任意多个Column组成，即Column Family支持动态扩展，列族必须在使用表之前定义。列名都以列族作为前缀。例如courses:history，courses:math都属于courses这个列族。无需预先定义Column的数量以及类型，所有Column均以二进制格式存储，用户需要自行进行类型转换。

     访问控制、磁盘和内存的使用统计都是在列族层面进行的。实际应用中，列族上的控制权限能 帮助我们管理不同类型的应用：我们允许一些应用可以添加新的基本数据、一些应用可以读取基本数据并创建继承的列族、一些应用则只允许浏览数据（甚至可能因 为隐私的原因不能浏览所有数据）。

4.Cell：

由{row key, column(= + ), version}唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。

5.-ROOT- && .META.Table

HBase中有两张特殊的Table，-ROOT-和.META.

Ø .META.：记录了用户表的Region信息，.META.可以有多个regoin

Ø -ROOT-：记录了.META.表的Region信息，-ROOT-只有一个region

Ø Zookeeper中记录了-ROOT-表的location

三．物理存储：

1 Table中的所有行都按照rowkey的字典序排列。

2 Table 在行的方向上分割为多个Hregion。

 

3 region按大小分割的，每个表一开始只有一个region，随着数据不断插入表，region不断增大，当增大到一个阀值的时候，Hregion就会等分会两个新的Hregion。当table中的行不断增多，就会有越来越多的Hregion。

4 Hregion是Hbase中分布式存储和负载均衡的最小单元。最小单元就表示不同的Hregion可以分布在不同的HRegionserver上。但一个Hregion是不会拆分到多个server上的。

5 HRegion虽然是分布式存储的最小单元，但并不是存储的最小单元。

事实上，HRegion由一个或者多个Store组成，每个store保存一个columns family。

每个Strore又由一个memStore和0至多个StoreFile组成。如图：

StoreFile以HFile格式保存在HDFS上。

五、系统架构

Client：

  包含访问hbase的接口，client维护着一些cache来加快对hbase的访问，比如regione的位置信息。

Zookeeper

1 保证任何时候，集群中只有一个master

2 存贮所有Region的寻址入口。

3 实时监控Region Server的状态，将Regionserver的上线和下线信息实时通知给Master

4 存储Hbase的schema,包括有哪些table，每个table有哪些columnfamily

Master

1 为Region server分配region

2 负责region server的负载均衡

3 发现失效的region server并重新分配其上的region

4 GFS上的垃圾文件回收

5 处理schema更新请求

Region Server

1 Region server维护Master分配给它的region，处理对这些region的IO请求

2 Region server负责切分在运行过程中变得过大的region

六．关键流程：

1.region定位：

  .META.是一个特殊的表，保存了hbase中所有数据表的region位置信息。

 root region永远不会被split，保证了最需要三次跳转，就能定位到任意region 。

.META.表每行保存一个region的位置信息，rowkey 采用表名+表的最后一样编码而成。

为了加快访问，.META.表的全部region都保存在内存中。

2.region分配

    任何时刻，一个region只能分配给一个region server。master记录了当前有哪些可用的region server。以及当前哪些region分配给了哪些region server，哪些region还没有分配。当存在未分配的region，并且有一个region server上有可用空间时，master就给这个region server发送一个装载请求，把region分配给这个region server。regionserver得到请求后，就开始对此region提供服务。

3.region server上线

     master使用zookeeper来跟踪regionserver状态。当某个region server启动时，会首先在zookeeper上的server目录下建立代表自己的文件，并获得该文件的独占锁。由于master订阅了server目录上的变更消息，当server目录下的文件出现新增或删除操作时，master可以得到来自zookeeper的实时通知。因此一旦region server上线，master能马上得到消息。

4.region server下线

     当region server下线时，它和zookeeper的会话断开，zookeeper而自动释放代表这台server的文件上的独占锁。而master不断轮询server目录下文件的锁状态。如果master发现某个region server丢失了它自己的独占锁，(或者master连续几次和region server通信都无法成功),master就是尝试去获取代表这个region server的读写锁，一旦获取成功，就可以确定：

1 )region server和zookeeper之间的网络断开了。

2 )region server挂了。

的其中一种情况发生了，无论哪种情况，region server都无法继续为它的region提供服务了，此时master会删除server目录下代表这台regionserver的文件，并将这台region server的region分配给其它还活着的同志。

     如果网络短暂出现问题导致region server丢失了它的锁，那么regionserver重新连接到zookeeper之后，只要代表它的文件还在，它就会不断尝试获取这个文件上的锁，一旦获取到了，就可以继续提供服务。

5.master上线

master启动进行以下步骤:

1) 从zookeeper上获取唯一一个代码master的锁，用来阻止其它master成为master。

2 )扫描zookeeper上的server目录，获得当前可用的region server列表。

3) 和2)中的每个regionserver通信，获得当前已分配的region和regionserver的对应关系。

4 )扫描.META.region的集合，计算得到当前还未分配的region，将他们放入待分配region列表。

6.master下线

      由于master只维护表和region的元数据，而不参与表数据IO的过程，master下线仅导致所有元数据的修改被冻结(无法创建删除表，无法修改表的schema，无法进行region的负载均衡，无法处理region上下线，无法进行region的合并，唯一例外的是region的split可以正常进行，因为只有regionserver参与)，表的数据读写还可以正常进行。因此master下线短时间内对整个hbase集群没有影响。从上线过程可以看到，master保存的 信息全是可以冗余信息（都可以从系统其它地方收集到或者计算出来），因此，一般hbase集群中总是有一个master在提供服务，还有一个以上 的’master’在等待时机抢占它的位置。

七．实战练习：

先启动hadoop，然后.启动hbase：jps查看，注意在master(即HMater)节点上有HMaster和HRegionServer、HQuorumPeer三个服务项，在datanode（即HRegionServer）中查看需要启动的是HQuorumPeer和HRegionServer。

通过WEB查看hbase：

查看Master http://master:60010/master.jsp

查看Region Serverhttp://slave:60030/regionserver.jsp

查看ZK Tree http://master:60010/zk.jsp

以下面这个表格为例子，练习hbase shell命令

这里grad对于表来说是一个只有它自己的列族,course对于表来说是一个有两个列的列族,这个列族由两个列组成math和art,当然我们可以根据我们的需要在course中建立更多的列族,如computer,physics等相应的列添加入course列族。

hbase(main):001:0> create ‘scores','grade',‘course'

 put‘scores','Tom','grade:','5′
    put ‘scores','Tom','course:math','97′
    put ‘scores','Tom','course:art','87′
    put ‘scores','Jim','grade','4′
    put ‘scores','Jim','course:math','89′
    put ‘scores','Jim','course:art','80′

put命令比较简单，只有这一种用法：
hbase> put ‘t1′, ‘r1′, ‘c1′, ‘value', ts1
t1指表名，r1指行键名，c1指列名，value指单元格值。ts1指时间戳，一般都省略掉了。

根据键值查询数据:

hbase(main):013:0> get 'scores','Jim'

COLUMN                CELL                                                      

 course:art           timestamp=1371374709443,value=80                        

 course:math          timestamp=1371374691043,value=89                        

 grade:               timestamp=1371374659931, value=4                         

3row(s) in 0.0360 seconds

hbase(main):014:0> get 'scores','Jim','grade'

COLUMN                CELL                                                     

 grade:               timestamp=1371374659931,value=4                          

1row(s) in 0.0230 seconds

 

hbase(main):015:0> scan'scores'

ROW                   COLUMN+CELL                                        

 Jim                  column=course:art,timestamp=1371374709443, value=80     

 Jim                  column=course:math,timestamp=1371374691043, value=89    

 Jim                  column=grade:,timestamp=1371374659931, value=4          

 Tom                  column=course:art,timestamp=1371374627295, value=87     

 Tom                  column=course:math,timestamp=1371374609639, value=97    

 Tom                  column=grade:,timestamp=1371374578670, value=5          

2row(s) in 0.1150 seconds

删除指定数据

delete ‘scores','Jim','grade'

Deleteall ‘score’,’Jim’     //删除整行

修改表结构
disable ‘scores'
alter ‘scores',NAME=>'info'    //添加一个列族
enable ‘scores'
count ‘scores’    //查询表中有多少行