HBase RegionServer挂掉问题分析

HBase在使用中会遇到非常多的问题，最为常见的就是HBase regionserver挂掉（此文中简称regionserver为RS），

而RS挂掉的原因各不相同。在本文中对遇到过的HBase RS挂掉的情况做一个简单的整理。

HBase集群预留内存不足

现象：HBase RS在起来1-2min后马上挂掉

日志为如下日志段的重复：

Mon Aug  6 10:23:54 CST 2018 Starting regionserver on node2.rosa.com
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 127902
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 65536
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) 2048
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

分析：此处可知所做的操作只是HBase RS的假启动，前端看上去好像是启动成功了，但是实际上并没有真正启动。

解决思路：适当减小HBase RegionServer Maximum Memory对应的值。

 

HBase集群时钟不同步

现象：HBase RS运行一段时间后挂掉

日志：

ERROR [B.defaultRpcServer.handler=4,queue=1,port=16000] master.MasterRpcServices: Region server slave1,16020,1494163890158 reported a fatal error:

ABORTING region server slave1,16020,1494163890158: Unhandled: org.apache.hadoop.HBase.ClockOutOfSyncException: Server slave1,16020,1494163890158 has been rejected; Reported time is too far out of sync with master.Time difference of 52782ms > max allowed of 30000ms

分析：集群中的不同机器时间差较大，HBase集群对时钟同步要求较高。

解决思路：

1. 查看集群中/etc/ntp.conf的server配置是否合理，
2. 利用service ntpd status来查看ntp的状态
3. 利用service ntpd start启动ntp
4. 利用ntpdate –u node1在三个节点立即进行时钟同步
5. 利用chkconfig ntpd on设置所有节点ntp服务开机自启动。

 

HBase集群zk的连接数设置过少

现象：RS运行一段时间后挂掉

日志：

ERROR [regionserver/node1/101.12.38.119:16020] zookeeper.ZooKeeperWatcher: regionserver:16020-0x3651eb7c95b0006, quorum=node1:2181,node2:2181,node3:2181, 
baseZNode=/HBase-unsecure Received unexpected KeeperException, re-throwing exceptionorg.apache.zookeeper.KeeperException$SessionExpiredException: 
KeeperErrorCode = Session expired for /HBase-unsecure/replication/rs/node1,16020,1533819219139\

查看zookeeper对应时间点的日志：

2018-08-14 10:31:23,855 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60
2018-08-14 10:31:23,935 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60
2018-08-14 10:31:24,015 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60
2018-08-14 10:31:24,037 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60
2018-08-14 10:31:24,122 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too many connections from /101.12.38.120 - max is 60
2018-08-14 10:31:24,152 - WARN  [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2181:NIOServerCnxnFactory@193] - Too

分析：zookeeper的连接数设置过少，在HBase的高并发业务时会出现如上问题

解决思路：在zookeeper的配置文件zoo.cfg中添加如下自定义配置(该配置在hbase中默认值为60)：

添加：maxClientCnxns=600，重启zk，启动HBase。

HBase无法写入（无法落地存到hdfs）：

日志：

java.io.IOException: Failed to replace a bad datanode on the existing 
pipeline due to no more good datanodes being available to try

分析：无法写入，3个datanode，备份数量设置的是3。在写操作时，它会在pipeline中写3个机器。默认replace-datanode-on-failure.policy是DEFAULT,如果系统中的datanode大于等于3，它会找另外一个datanode来拷贝。目前机器只有3台，因此只要一台datanode出问题，就一直无法写入成功。

处理方法：

修改hdfs-site.xml文件，添加或者修改如下两项： 

   
        dfs.client.block.write.replace-datanode-on-failure.enable
         true
    

    
    dfs.client.block.write.replace-datanode-on-failure.policy
     NEVER
    

    对于dfs.client.block.write.replace-datanode-on-failure.enable，客户端在写失败的时候，是否使用更换策略，默认是true没有问题

对于，dfs.client.block.write.replace-datanode-on-failure.policy，default在3个或以上备份的时候，是会尝试更换结点尝试写入datanode。而在两个备份的时候，不更换datanode，直接开始写。对于3个datanode的集群，只要一个节点没响应写入就会出问题，所以可以关掉。

 

HBase读数据超时

日志：

ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: xxx:50010:DataXceiver error processing WRITE_BLOCK operation  src: /xxx:52827 dst: /xxx:50010

java.net.SocketTimeoutException: 60000 millis timeout while waiting for channel to be ready for read. ch : java.nio.channels.SocketChannel[connected local=/xxx:50010 remote=/xxx:52827]

分析：读数据超时，出现以上错误是因为datanode的服务线程连接数都被占用，导致等待超时。

处理方法：

1. datanode的资源情况适当增加的服务线程数：在hdfs-site.xml增加自定义配置文件里面新增或修改dfs.datanode.handler.count，默认是10，适当加大。
2. 增加客户端的超时时间dfs.client.socket-timeout，默认是60000ms。
3. 增大HBase配置项中的zookeeper session timeout数值。
4. 增加DataNode max data transfer threads至合理数值。

 

HBase GC优化

报错如下：

分析：

从以上日志可以看出，session超时，其实服务是好的，只是被zk认为死了，所以rs自己也就把自己kill了。

详细一点来说，一般来说RegionServer的堆内存越大越好，但是因为垃圾回收的缘故，内存大了之后，相应的FullGC时间也会线性增加。FullGC有时可能达到好几分钟，这个阶段会停止响应任何请求，相当于所有线程挂起，这种暂停又叫做Stop-The-World(STW)，FullGc的对HBase造成严重后果比较严重：
在Zookeeper检测RegionServer心跳包的时候，RegionServer正在FullGc无法回应，而如果超过阀值等待时间会被标记为宕机，这时候会将该RegionServer上的数据向其他RegionServer迁移，并且该RegionServer FullGc结束后发现自己被宕机了，为了防止脑裂，会停止自己（RegionServer自杀）。

值得注意的是此处的报错，仍然不是深层次的原因，继续查看日志：

2018-08-07 12:27:39,919 WARN  [regionserver/node1/210.26.111.41:16020] util.Sleeper: We slept 39000ms instead of 3000ms, this is likely due to a long garbage collecting pause and it's usually bad, see http://HBase.apache.org/book.html#trouble.rs.runtime.zkexpired

2018-08-07 12:27:39,920 INFO  [node1,16020,1533607130571_ChoreService_1] regionserver.HRegionServer$CompactionChecker: Chore: CompactionChecker missed its start time

2018-08-07 12:27:39,920 INFO  [main-SendThread(node2:2181)] zookeeper.ClientCnxn: Client session timed out, have not heard from server in 50201ms for sessionid 0x264ea4df477b894, closing socket connection and attempting reconnect

2018-08-07 12:27:39,920 WARN  [JvmPauseMonitor] util.JvmPauseMonitor: Detected pause in JVM or host machine (eg GC): pause of approximately 37173ms

GC pool 'ParNew' had collection(s): count=1 time=207ms

由以上日志可见，存在Full GC的问题， 上文处的超时也由FULL GC引起。这种情况下，客户端发送的请求会受到阻塞，导致客户端无法正常写数据到HBase。

 

修改：

HBase写优化方面：

1. 做HBase简单的写优化：增加HBase的write buffer至55%，减小HBase的read buffer至25%（write buffer与read buffer的和不能超过80%）
2. 增加HBase的regionserver handler数至最大。
3. HBase表的预分区修改

Zk方面：

官网建议将hbase-site.xml中的超时修改至120s。很多场景下会将zookeeper的心跳检测阀值调大，个人认为不是根本的解决办法。

  zookeeper.session.timeout
  120000


  hbase.zookeeper.property.tickTime
  6000

做完这些操作后现场未恢复正常，建议进行HBase的jvm调优如下：

会产生FULL GC的原因：老年代回收慢（这里需要结合gc日志进行定位，在本文中gc日志没有po出来）。

 

1.HBase堆内存

系统可以使用export HBASE_HEAPSIZE=16384，16G的内存，下是官网的一段话：

Thus, ~20-24Gb or less memory dedicated to one RS is recommended

2.GC的参数设置

HBASE jvm优化

export HBASE_OPTS="$HBASE_OPTS -XX:+UseCompressedOops -XX:+UseParNewGC 
-XX:+UseConcMarkSweepGC -XX:+CMSClassUnloadingEnabled -XX:+UseCMSCompactAtFullCollection 
-XX:CMSFullGCsBeforeCompaction=0 -XX:+CMSParallelRemarkEnabled  
-XX:CMSInitiatingOccupancyFraction=75 -XX:SoftRefLRUPolicyMSPerMB=0"

具体参数含义如下：

/* 压缩指针，解决内存占用 */
-XX:+UseCompressedOops

/*设置年轻代为并行收集*/
-XX:+UseParNewGC

/* 使用CMS内存收集*/
-XX:+UseConcMarkSweepG

/*相对于并行收集器，CMS收集器默认不会对永久代进行垃圾回收。如果希望对永久代进行垃圾回收，可用设置标志-XX:+CMSClassUnloadingEnabled。 
在早期JVM版本中，要求设置额外的标志-XX:+CMSPermGenSweepingEnabled。注意，即使没有设置这个标志，一旦永久代耗尽空 间也会尝试进行垃圾回收，
但是收集不会是并行的，而再一次进行Full GC。*/
-XX:+CMSClassUnloadingEnabled

/*使用并发收集器时,开启对年老代的压缩.*/
-XX:+UseCMSCompactAtFullCollection

/*由于并发收集器不对内存空间进行压缩,整理,所以运行一段时间以后会产生”碎片”,使得运行效率降低.此值设置运行多少次GC以后对内存空间进行压缩,整理.*/
-XX:CMSFullGCsBeforeCompaction

/*降低标记停顿*/
-XX:+CMSParallelRemarkEnabled

/*使用cms作为垃圾回收使用75％后开始CMS收集*/
-XX:CMSInitiatingOccupancyFraction=75

/*每兆堆空闲空间中SoftReference的存活时间*/
-XX:SoftRefLRUPolicyMSPerMB

参考：HBase JVM优化https://blog.csdn.net/wuwenxiang91322/article/details/52279529