一文读懂HBase 2.0 MOB 特性
前言
HBase 2.0 发布了很多新的特性，其中一个非常值得关注的是中等对象存储的特性，即 HBase MOB（Medium Object Storage）特性。HBase 2.0 MOB的引入，扩宽了HBase在人工智能、物联网等领域的应用场景。
初识HBase MOB
HBase MOB特性是由HBASE-11339这个issue引入的，主要解决的是HBase对中等大小对象（100KB~10MB）的低延时读写支持，提升HBase对象存储的能力。这个特性的引入，使得HBase能够非常适合存储图片、文件、短视频等二进制对象，拓宽了HBase在人工智能、物联网等领域的应用场景。
在MOB特性引入之前，HBase也能够存储大小在100KB以上的二进制对象，但是HBase针对大小100KB以下的数据在读写路径上做了优化，因此在处理大量的大小在100KB以上的数据时，性能其实非常低效，由压缩与分裂带来的I/O压力会使HBase整体性能下降，这也是要引入MOB的原因。当使用MOB特性时，理想的二进制对象大小应该在100KB~10MB之间，超过10MB的文件HBase也能够进行存储但是效率相对比较低，一些较大的文件还是建议直接存放在HDFS上，充分发挥HDFS文件存储的能力。
剖析HBase MOB
架构设计
包含MOB特性的HBase整体架构如下图：
由于大部分担心来自于压缩带来的IO压力，因此HBase 2.0将MOB移出普通region的管理来避免region split和compaction。HBase MOB在架构设计上类似于 HBase + HDFS 的方式，通过分离文件引用和 MOB 对象的 IO 路径来实现。
版本支持
HBase MOB是HBase 2.0 版本引入的特性，详见HBASE-11339，因此原生的Apache HBase要2.0及以上版本才支持。
此外，目前使用比较多的CDH和HDP均已提前解决了HBase-11339 issue，在各自更早的HBase版本中便已经支持MOB特性了，具体情况如下：
- Cloudera：从CDH5.4.x版本开始支持MOB特性，详细可参考 https://blog.cloudera.com/blog/2015/06/inside-apache-hbases-new-support-for-mobs
- Hortonworks：从HDP2.5.x版本开始支持MOB特性，详细可参考 https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.5.0/bk_data-access/content/ch_MOB-support.html
如何开启MOB特性
开启HBase MOB特性有一个先决条件，就是必须支持HFile v3。通过修改hbase-site.xml中hfile.format.version属性值为 3 得到支持：
<property>
<name>hfile.format.versionname>
<value>3value>
property>
满足先决条件后，开启MOB其实很简单，创建表时指定以下列族属性或修改列族属性：
-
IS_MOB：设置为true，这项配置是必须的；
-
MOB_THRESHOLD：设置MOB阈值，超过阈值的被当做MOB存储，默认100KB。
HBase Shell命令：
hbase> create ‘t1’, {NAME => ‘f1’, IS_MOB => true, MOB_THRESHOLD => 102400}
hbase> alter ‘t1’, {NAME => ‘f1’, IS_MOB => true, MOB_THRESHOLD => 102400}
HBase API代码：
HColumnDescriptor hcd = new HColumnDescriptor(“f”);
hcd.setMobEnabled(true);
hcd.setMobThreshold(102400L);
配置MOB压缩策略
为了减少MOB HFiles的数量以提升性能，HBase会定期做MOB Compaction，默认是按天压缩。
另外，HBASE-16981又引入了按周和月的MOB压缩聚合策略，改善了MOB的存储（CDH HBase自CDH5.11.0开始支持HBASE-16981修复的版本）。
通过属性MOB_COMPACT_PARTITION_POLICY设置不同的压缩聚合策略，可选值有daily、weekly和monthly，例如：
hbase> alter ‘t1’, {NAME => ‘f1’, IS_MOB => true, MOB_THRESHOLD => 102400, MOB_COMPACT_PARTITION_POLICY => ‘weekly’}
配置MOB缓存属性
为了提高MOB读取的性能，服务端会保留一级LRU缓存，相关的参数包含：
- hbase.mob.file.cache.size：缓存MOB文件的数量，默认1000；
- hbase.mob.cache.evict.period：缓存清理周期，默认是3600s；
- hbase.mob.cache.evict.remain.ratio：缓存清理后保留文件的比例，取值范围为0~1，默认0.5f。
MOB功能/性能测试
HBase官网提供一个用于测试MOB功能的工具类org.apache.hadoop.hbase.IntegrationTestIngestMOB，可以通过命令行直接使用，命令如下：
$ hbase org.apache.hadoop.hbase.IntegrationTestIngestWithMOB
-threshold 1024
-minMobDataSize 512
-maxMobDataSize 5120
其中各个参数的含义如下：
- threshold：MOB阈值，单位 字节；
- minMobDataSize：MOB 数据大小的最小值，单位 字节；
- maxMobDataSize MOB 数据大小的最大值，单位 字节；
通过该工具类测试，控制台会打印类似下面的信息，供参考：
19/04/08 19:55:23 INFO util.MultiThreadedAction: [W:20] Keys=5248, cols=58.3 K, time=00:00:05 Overall: [keys/s= 1048, latency=18 ms] Current: [keys/s=1049, latency=18 ms], wroteUpTo=199999
HBase MOB小结
Apache HBase 2.0 重新定义了中等大小对象随机读写的方式，为HBase对象存储提供了一体化的解决方案，拓展了HBase的应用场景。请关注后续HBase MOB 特性实际使用场景介绍。
参考文档：
- HBase 2.0 MOB 设计文档
- HBase 2.0 MOB 使用手册
往期推荐
1、HBase最佳实践 | 聊聊HBase核心配置参数
2、Apache Hudi：剑指数据湖的增量处理框架
3、Hadoop社区比 Ozone 更重要的事情
4、MapReduce Shuffle 和 Spark Shuffle 结业篇
