Hbase的安装以及相对于redis的对比介绍
简介:
分布式的、面向列的开源数据库,一个结构化数据的分布式存储系统”。HBase在Hadoop之上提供了类似于Bigtable的能力。HBase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库(nosql)。另一个不同的是HBase基于列的而不是基于行的模式。
安装前需要事先搭建好zookeeper集群以及hadoop集群
hadoop:https://blog.csdn.net/qq_41594146/article/details/107194140
zookeeper:https://blog.csdn.net/qq_41594146/article/details/100153434
首先解压下载的安装包
tar -zxvf hbase-1.3.1-bin.tar.gz -C /opt/module修改HBase对应的配置文件。
1）hbase-env.sh修改内容：
export JAVA_HOME=/opt/module/jdk1.8.0_144
export HBASE_MANAGES_ZK=false
JDK1.8需要注释
#export HBASE_MASTER_OPTS。。。。
#export HBASE_REGIONSERVER_OPTS。。。2）hbase-site.xml修改内容：
hbase.rootdir #本机的主机名和ip 可以自行修改
hdfs://hadoop102:9000/hbase
hbase.cluster.distributed
true
hbase.master.port
16000
hbase.zookeeper.quorum #zookeeper集群地址
hadoop102:2181,hadoop103:2181,hadoop104:2181
hbase.zookeeper.property.dataDir
/opt/module/zookeeper-3.4.10/zkData
3）regionservers：
#hadoop的集群ip
hadoop102
hadoop103
hadoop1044）软连接hadoop配置文件到hbase：
ln -s /opt/module/hadoop-2.7.2/etc/hadoop/core-site.xml /opt/module/hbase/conf/core-site.xmlln -s /opt/module/hadoop-2.7.2/etc/hadoop/hdfs-site.xml /opt/module/hbase/conf/hdfs-site.xmlHBase远程发送到其他集群
xsync hbase/ 如果没有这个指令 可以用scp代替 就是把刚刚修改好配置文件的hbase文件夹复制到其余的集群机器上去
scp -P ssh端口 ./hbase root@ip:复制的路径
HBase服务的启动
启动方式1:
bin/hbase-daemon.sh start master
bin/hbase-daemon.sh start regionserver提示：如果集群之间的节点时间不同步，会导致regionserver无法启动，抛出ClockOutOfSyncException异常。请将服务器的时间同步
启动方式2
bin/start-hbase.sh停止
bin/stop-hbase.sh启动成功后，可以通过“host:port”的方式来访问HBase管理页面，例如：
http://服务器ip:16010
HBase Shell操作
1．进入HBase客户端命令行
bin/hbase shell
2．查看帮助命令
hbase(main):001:0> help
3．查看当前数据库中有哪些表
hbase(main):002:0> list
表的操作
1．创建表
hbase(main):002:0> create 'student','info'
2．插入数据到表
hbase(main):003:0> put 'student','1001','info:sex','male'
hbase(main):004:0> put 'student','1001','info:age','18'
hbase(main):005:0> put 'student','1002','info:name','Janna'
hbase(main):006:0> put 'student','1002','info:sex','female'
hbase(main):007:0> put 'student','1002','info:age','20'
3．扫描查看表数据
hbase(main):008:0> scan 'student'
hbase(main):009:0> scan 'student',{STARTROW => '1001', STOPROW => '1001'}
hbase(main):010:0> scan 'student',{STARTROW => '1001'}
4．查看表结构
hbase(main):011:0> describe 'student'
5．更新指定字段的数据
hbase(main):012:0> put 'student','1001','info:name','Nick'
hbase(main):013:0> put 'student','1001','info:age','100'
6．查看“指定行”或“指定列族:列”的数据
hbase(main):014:0> get 'student','1001'
hbase(main):015:0> get 'student','1001','info:name'
7．统计表数据行数
hbase(main):021:0> count 'student'
8．删除数据
删除某rowkey的全部数据：
hbase(main):016:0> deleteall 'student','1001'
删除某rowkey的某一列数据：
hbase(main):017:0> delete 'student','1002','info:sex'
9．清空表数据
hbase(main):018:0> truncate 'student'
提示：清空表的操作顺序为先disable，然后再truncate。
10．删除表
首先需要先让该表为disable状态：
hbase(main):019:0> disable 'student'
然后才能drop这个表：
hbase(main):020:0> drop 'student'
提示：如果直接drop表，会报错：ERROR: Table student is enabled. Disable it first.
11．变更表信息
将info列族中的数据存放3个版本：
hbase(main):022:0> alter 'student',{NAME=>'info',VERSIONS=>3}
hbase(main):022:0> get 'student','1001',{COLUMN=>'info:name',VERSIONS=>3}
HBase数据结构
RowKey
与nosql数据库们一样,RowKey是用来检索记录的主键。访问HBASE table中的行，只有三种方式：
1.通过单个RowKey访问(get)
2.通过RowKey的range（正则）(like)
3.全表扫描(scan)
RowKey行键 (RowKey)可以是任意字符串(最大长度是64KB，实际应用中长度一般为 10-100bytes)，在HBASE内部，RowKey保存为字节数组。存储时，数据按照RowKey的字典序(byte order)排序存储。设计RowKey时，要充分排序存储这个特性，将经常一起读取的行存储放到一起。(位置相关性)
Column Family
列族：HBASE表中的每个列，都归属于某个列族。列族是表的schema的一部 分(而列不是)，必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history，courses:math都属于courses 这个列族。
Cell
由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。
关键字：无类型、字节码
Time Stamp
HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值，此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突，就必须自己生成具有唯一性的时间戳。每个 cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。
为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段 时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。
命名空间
命名空间的结构:
1) Table：表，所有的表都是命名空间的成员，即表必属于某个命名空间，如果没有指定，则在default默认的命名空间中。
2) RegionServer group：一个命名空间包含了默认的RegionServer Group。
3) Permission：权限，命名空间能够让我们来定义访问控制列表ACL（Access Control List）。例如，创建表，读取表，删除，更新等等操作。
4) Quota：限额，可以强制一个命名空间可包含的region的数量。
和redis对比优缺点
读写性能：
HBase写快读慢，HBase的读取时长通常是几毫秒，而Redis的读取时长通常是几十微秒。性能相差非常大。
数据类型：
HBase和Redis都支持KV类型。但是Redis支持List、Set等更丰富的类型。
数据结构有点类型于redis的hash结构 只是这个hash会在创建表的时候规定好hash的属性的前缀 可以这么理解,只是这个key呢 可以重复 不会覆盖数据 即便key和属性一致也不会 会根据时间戳的不同而生成不同的版本号数据
HBase表中有一个重要概念：版本，每个字段的值都有版本信息（通过时间戳指定）
每次修改时都会保留之前的值，就是说可以取到他的旧值
建表时，定义的是表名和列族(列族可以理解为属性的集合,属性的前缀定义)
列族中可以包含任意个字段，字段名不需要预定义，每一行中同一列族中的字段也可以不一致
多维结构，关系数据库的表是二维的，通过指行、列定位一个数据，HBase中需要通过 行健、列族名、字段名、版本号才能定位到具体数据
插入数据时，一次插入一个字段的数据，不是像关系数据库那样一次插入多个字段
数据量：
Redis支持的数据量通常受内存限制，而HBase没有这个限制，可以存储远超内存大小的数据。
部署难易：
HBase部署需要依赖hadoop、zookeeper等服务，而Redis的部署非常简单。
数据可靠性：
HBase采用WAL，先记录日志再写入数据，理论上不会丢失数据。而Redis采用的是异步复制数据，在failover时可能会丢失数据。
应用场景：
HBase适合做大数据的持久存储，而Redis比较适合做缓存。如果数据丢失是不能容忍的，那就用只能用HBase；如果需要一个高性能的环境，而且能够容忍一定的数据丢失，那完全可以考虑使用Redis。
两者的结合：
HBase可以用来做数据的固化，也就是数据存储，做这个他非常合适。Redis适合做cache。可以用HBase+Redis实现数据仓库加缓存数据库，速度和扩展性都兼顾。