Hadoop集群硬盘故障分析与自动化修复
作者：Zhang, Haohao
摘要：
硬盘在服务器中起着至关重要的作用，因为硬盘里面存储的是数据，随着制造业技术的提高，硬盘的类型也在逐渐的改变。对于硬盘的管理是IAAS部门的责任，但作为业务运维也需要懂得相关的技术。
有的公司采用LVM来管理硬盘，这样做方便扩缩容，也有的公司直接用裸盘来存数据，这样做的好处是不会因LVM而损失掉一部分硬盘I/O速度。需要根据不同的场景采用不同的方式来管理。
Hadoop集群中跑Datanode服务的节点不建议做LVM，因为没有必要，你想想，Hadoop的HDFS就是做分布式大数据的，用Hadoop的公司肯定是有大量的数据，所以对于HDFS基本原则是硬盘有多少空间就用多少空间，不够用的话再加机器或者加硬盘。
硬盘故障在服务器硬件故障中所占的比例是最高的，下面我给出Ebay的故障报告中的硬件部件和对应故障率状态图：
从图中可以很明显的看到硬盘故障率最高，达到了84%，所以对于运维来说，如果能统计出平时工作中的故障案例，并把它们写成自动化修复脚本，那将有很重大的意义。
如果你的眼光还能看得更远一点的话，可以想一想：能不能做出一套硬件故障检测与修复的系统呢？（需要硬件厂商的合作），我这里只做抛砖引玉，如果你能想到这些，说明你已经走在了自动化运维的路上了。
这里先介绍一例最典型的硬盘故障案例，然后会给出硬盘故障的常规处理步骤，最后我会附上硬盘自动化修复脚本的链接。
环境：
这台服务器是hadoop集群里的一台slavenode ，上面跑的有datanode和nodemanager服务，总共有12块数据盘和一块系统盘，每块数据盘都只做了一个partition，文件系统用的是ext4，没有做LVM。
故障发现：
某天我们的监控系统报出了一条告警，说一个用户的一个Job跑失败了，因为这个用户是很重要的用户，所以他的每个Job跑的成功与否，跑了多长时间我们都是有监控的，废话不多说。
先查看Job id ：job_1431213413583_799324，Failed的Job 在node：example.ebay.com上，对应的日志显示：“Error: java.io.FileNotFoundException…………”，再进一步查看日志，发现是没有找到/path/to/corrupt/file这个block ,我用hadoop fsck命令查看下对应的block所在的节点，发现是在corrupted.node.com上。
考虑到公司安全，以上主机名和文件名都是假设的，大家明白就好。登录出现问题的那台机器，“df -h”先查看下硬盘情况：
#df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda2 451G 20G 408G 5% /
tmpfs 36G 0 36G 0% /dev/shm
/dev/sdb1 1.9T 1.5T 354G 81% /hadoop/1
/dev/sdc1 1.9T 1.5T 357G 81% /hadoop/2
/dev/sdd1 1.9T 1.5T 351G 81% /hadoop/3
/dev/sde1 1.9T 1.4T 402G 79% /hadoop/4
/dev/sdf1 1.9T 1.5T 371G 80% /hadoop/5
/dev/sdg1 1.9T 1.5T 375G 80% /hadoop/6
/dev/sdh1 1.9T 1.5T 388G 79% /hadoop/7
/dev/sdi1 1.9T 1.5T 383G 80% /hadoop/8
/dev/sdj1 1.9T 1.5T 394G 79% /hadoop/9
/dev/sdl1 1.9T 1.5T 377G 80% /hadoop/11
/dev/sdm1 1.9T 1.5T 386G 79% /hadoop/12
仔细观察会发现/hadoop/10没有，对应的应该是/dev/sdk1，那这块硬盘到哪去了呢？
故障分析：
用fdisk查看：
#fdisk -l /dev/sdk
发现这块盘是GPT table的，这里穿插下分区表的小知识，分区表最常用的是MBR，GPT是比较新的一种，比较少用。
因为其它硬盘都是MBR分区表，所以这块硬盘也应该是MBR的。
再查看/var/log/messages，发现有一些I/O错误信息：
Jul 17 00:50:00 xxxxxxxxxxxxxx kernel:[8385006.016524] Buffer I/O error on device sdk1, logical block 1415594116
估计是硬盘出现逻辑坏道了。
故障解决：
思路是删除/dev/sdk上的所有数据，然后重新分区，格式化。
这里不用担心数据丢失，因为Hadoop设置默认会有三份block信息保存在不同的节点上。
- 用fdisk删除原有分区表信息，创建一个新的partition：
#fdisk /dev/sdk
# d
# n
# p
# w
- 用parted工具,把partition1的分区表转化为MBR的：
#parted /dev/sdk1
#mklabel msdos
#quit
- 删除保留的百分之五的磁盘空间：
#tune2fs -m 1 /dev/sdk1
- 用ext4格式化partition:
#mkfs.ext4 /dev/sdk1
- 查看磁盘信息：
#fdisk -l /dev/sdk
Disk /dev/sdk: 2000.4 GB, 2000398934016bytes
255 heads, 63 sectors/track, 243201cylinders
Units = cylinders of 16065 * 512 = 8225280bytes
Sector size (logical/physical): 512 bytes/ 512 bytes
I/O size (minimum/optimal): 512 bytes /512 bytes
Disk identifier: 0xea6649b8
Device Boot Start End Blocks Id System
/dev/sdk1 1 243201 1953512001 83 Linux
- 一切正常，查看/etc/fstab：
.......
LABEL=/hadoop09 /hadoop/9 ext4defaults,noatime,nodiratime,noauto 0 2
LABEL=/hadoop10 /hadoop/10 ext4defaults,noatime,nodiratime,noauto 0 2
........
- 注意"noauto"选项，如果你用"mount -a"的话系统不会自动识别文件系统类型，不会自动挂载目录。
所以这里就不能用"mount -a"，而应该手动mount:
#mount LABEL=/hadoop10 /hadoop/10 -o defaults,noatime,nodiratime,noauto -t ext4
- 再用fdisk查看：
#df -h
......
/dev/sdk1 1.8T 1.9G 1.8T 1% /hadoop/10
到这里这个硬盘故障就算彻底解决了。
新硬盘到可用所需要的步骤（无需交互，可写成脚本）：
1 在/dev/sda1删除partition1:
#parted --script -- /dev/sda1 rm 1
2 在/dev/sda1上创建msdos类型的分区表:
#parted --script /dev/sda1 mklabel msdos
3 在/dev/sda1创建partition1：
#parted --script -- /dev/sda1 mkpart primary 1 -1
4 用ext4文件系统格式化/dev/sda1:
#mkfs.ext4 -L $label -N 61050880 -m 1 -O sparse_super /dev/sda1
"-N"表示inode的数量，这个数值如果不指定的话，系统会默认把它设的尽量小，如果硬盘中小文件较多的话，有可能会造成inode不够用的情况。HDFS/Hadoop设计的目的是处理大文件的，默认块的大小是64MB，是Linux文件系统默认值（4KB）的16384倍，又考虑到一块硬盘中不可能全部是HDFS 文件，还会有很多日志文件等，所以在设置inode 数量的时候最好根据经验来判断，或者保险点你可以采取以下公式计算得出：
Inode数量 = （硬盘大小 /4KB ）* 10
"-m 1"表示保留百分之一的硬盘空间，默认保留百分之五，保留的空间可在硬盘被用完的情况下，root用户任然有操作硬盘的机会；
"-O sparse_super"表示使用更少的superblock backup copies，来节约硬盘空间。
5 在/dev/sda1上禁止e2fsck文件系统在开机时自检：
#tune2fs -c 0 -i 0 /dev/sda1
"-c 0"表示无论这块硬盘被mount多少次，系统都不会调用e2fsck扫描硬盘。
硬盘若长期不自检是不好的，可能会造成数据丢失。对于HDFS而言，默认会保留3份blocks文件，所以就算丢失了一份数据，还有2份数据呢，当blocks的保存数不足3份时，HDFS会重新找一台新的服务器来做备份，从而维持3份数据的目的，所以在HDFS里面数据是相对安全的，硬盘扫描就不那么重要了。
最后我分享一个自动化修复硬盘的perl脚本：
https://github.com/zhanghaohao/DiskFormat