企鹅日记（十三）：软件磁盘阵列RAID

磁盘阵列的英文全称是Redundant Arrays of Inexpensive Disks（RAID），即容错廉价磁盘阵列。可以通过一些技术将多个较小的磁盘整合成为一个较大的磁盘设备；而这个设备可不止存储功能而已，它还具有数据保护功能。

RAID的等级：

× RAID-0（等量模式，stripe）：性能较佳

这种模式使用相同型号和容量的磁盘来组成，可以有多个，RAID会将每个磁盘划分成等量的区块（一般为4K，2K等等），然后当一个文件被写入时，该文件会依据块大小切割好，之后依序放到各个磁盘里面去，由于每个磁盘交错存放数据，因此当你的数据要写入RAID时，数据会被等量的放置到各个磁盘上去。越多磁盘组成RAID-0,那么的话性能肯定就越好了。

缺点：一个磁盘挂点，整个文件系统崩盘，无法恢复了。并且所有磁盘容量必须一样，不然性能会下降。

× RAID-1（映像模式，mirror）：完整备份

这种模式也要相同型号，相同容量的磁盘，最好完全一样，一个模子刻出来的。

数据传送到I/O总线被复制多份到各个磁盘，因此写的性能会变得很差，不过如果你用硬件RAID（磁盘阵列卡），磁盘阵列卡会主动帮你复制，不需要I/O总线。但是磁盘阵列卡很贵滴呀呀，我买不起，所以很悲剧。RAID-1最大的用途在于备份，不过它的读取性能很好。

× RAID 0+1, RAID 1+0

RAID-0的性能较佳但是数据不安全，RAID-1数据安全但是性能不佳，那能不能组合下撒。

RAID 0+1：先让N块磁盘组成RAID-0, 同时再让另外的N块磁盘也组成RAID-0, 这样子我得到了两组RAID-0，然后将这两组RAID-0再组成一组RAID-1。

RAID 1+0：先让2N块磁盘组成N个组，每个组两个磁盘，每个组里面的两个磁盘组成RAID-1, 然后将这N组RAID-1组成RAID-0。

缺点：磁盘有一半的容量用来做备份了，悲剧呀！！！

RAID-5：性能与数据备份的均衡考虑

RAID-5至少需要三块以上的磁盘才能组成这种类型的磁盘阵列。这种磁盘阵列的数据写入有点类似RAID-0,不过每次循环写入过程中，在每块磁盘还加入一个同位检查数据（Parity），这个数据会记录其他磁盘的备份数据，用于当有磁盘损毁时的救援。

RAID-5的容量要减掉一个磁盘容量，也就是阵列的磁盘总数N-1,因为需要一个磁盘容量来保存同位检查数据Parity

RAID-5的读取性能很不错，跟RAID-0有得一拼，但是写入性能就很尴尬了，在软件磁盘阵列的时候，CPU还得花时间去计算同位检查数据。同时它只能保证一个磁盘损坏数据的安全，如果两个磁盘损坏就挂了。

RAID-6：跟RAID-5类似，不过这次会使用两块磁盘容量作为Parity的存储，它可以支持两块磁盘同时损坏，这个概率应该比走在马路上被一辆驴车撞到的概率还低吧，^_^

====Spare Disk：预备磁盘的功能====

为了让系统可以实时在坏掉磁盘时主动重建，需要预备磁盘spare disk的辅助，平时不包含在磁盘阵列中，当磁盘阵列有任何磁盘损坏时，spare disk马上被主动拉入磁盘阵列中，并将坏掉的磁盘移除磁盘阵列，然后立即重建数据系统，如果你的磁盘阵列还支持热插拔就更爽了，因为这个时候只需要把坏的那颗磁盘拔下来，换上一个新的，再将新的磁盘设置成spare disk，完成了，不用关机重启可以完成一切。这对服务器的稳定性有很好的帮助。

磁盘阵列的优点：

× 数据安全与可靠性，这里指的是硬盘坏了数据可以挽回。

× 读写性能，RAID-0可以加强读写性能，让你的系哦I/O系统部分得以改善

× 容量：可以让多个磁盘组合起来，因此单一文件系统可以有相当大的容量。

centos提供的软件磁盘阵列为mdadm这套软件，以分区或磁盘为单位，也就是说你不需要多个磁盘就可以设计你的磁盘阵列了。此外，mdadm支持刚刚提到的RAID-0,RAID-1,RAID-5等级，还支持spare disk的功能。而且提供的管理机制还可以达到类似可以热插拔的功能，可以在线（文件系统正常使用）进行分区的抽换，使用上非常的方便。。

注意：硬盘磁盘阵列在linux看起来就是一个大的磁盘，所有设备文件名为/dev/sd[a-p]，因为使用到SCSI的模块的原因。而软件磁盘阵列因为是系统仿真，因此使用的设备文件名时系统的设备文件，文件名为/dev/md0, /dev/md1，两者注意区别。

====软件磁盘阵列的设置====

# mdadm –detail /dev/md0

# mdadm –create –auto=yes /dev/md[0-9] –raid-device=4 –level=[015] –spare-device=2 /dev/sd5 /dev/sd6

–create：为新建RAID的参数

–auto=yes：决定新建后面接的软件磁盘阵列设备，即/dev/md0, /dev/md1等

–raid-devices=N：使用N个磁盘作为磁盘阵列的设备

–spare-devices=N：使用N个磁盘作为备用spare设备

–level=[015]：设置磁盘阵列的等级。支持很多，不过建议只要用0,1,5即可

–detail：后面所接的那个磁盘阵列设备的详细信息

注意最后面接的设备文件名，可以时整块磁盘，比如/dev/sdb，也可以是一个分区，比如/dev/sdb1，不过这些设备文件名的数量总数必须等于–raid-devices和–spare-devices的个数总和才行。

下面我来试试建立一个RAID-5的软件磁盘阵列，貌似这个比较常用，很适合。

我希望这个RAID-5环境时这样子的：

× 利用4个分区组成RAID-5

× 每个分区大约为1G大小，需要确定每个分区一样大较佳

× 另外加一个分区设置为sparedisk

× 这个sparedisk的大小与其他RAID所需分区一样大

× 将此RAID-5设备挂载到/mnt/raid目录下面

先用fdisk构建5个1G的分区：

# fdisk /dev/sda
前面省略。。。
Command (m for help):n

每次分1000M空间大小，注意，我不知道神马原因，first 扇区要手动输入，用p选项查看后，用最后一个分区的扇区号+2049才是第一个空闲扇区号，这个可能时fedora的一个bug，分区居然不是连续的，不管了，自己去试试。囧

最后的分区用p查看后，是这样子的：

设备 Boot      Start         End      Blocks   Id  System
/dev/sda1            2048      206847      102400    7  HPFS/NTFS/exFAT
/dev/sda2   *      206848   169859071    84826112    7  HPFS/NTFS/exFAT
/dev/sda3       169859072   462827821   146484375    7  HPFS/NTFS/exFAT
/dev/sda4       462829568   976773119   256971776    5  Extended
/dev/sda5       462833664   463243263      204800   83  Linux
/dev/sda6       463245312   631181311    83968000   83  Linux
/dev/sda7       631183360   799119359    83968000   83  Linux
/dev/sda8       799121408   803315711     2097152   82  Linux swap / Solaris
/dev/sda9       803317760   805365759     1024000   83  Linux
/dev/sda10      805367808   807415807     1024000   83  Linux
/dev/sda11      807417856   809465855     1024000   83  Linux
/dev/sda12      809467904   811515903     1024000   83  Linux
/dev/sda13      811517952   813565951     1024000   83  Linux
后面的从9到13就是刚刚我分的5个分区，每个大概1G，大小都相同。

# partprobe

接下来就简单啦啦，，通过mdadm来创建磁盘阵列吧。哦也

# mdadm –create –auto=yes /dev/md0 –level=5 –raid-devices=4 –spare-devices=1 /dev/sda{9,10,11,12,13}

查看下（等下，先去喝杯咖啡先，因为如果你直接立马运行，可能出现下面的正在building数据的信息）：

# mdadm --detail /dev/md0
/dev/md0 :   <==RAID设备文件名
        Version : 1.2
  Creation Time : Sun Oct 28 10:03:43 2012   <==RAID被创建的时间
     Raid Level : raid5    <==此RAID的等级
     Array Size : 3068928 (2.93 GiB 3.14 GB)    <==此RAID可用磁盘容量
  Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)    <==每个设备可用容量
   Raid Devices : 4     <==用作RAID的设备数量
  Total Devices : 5     <==全部的设备数量
    Persistence : Superblock is persistent

    Update Time : Sun Oct 28 10:04:01 2012
          State : clean, degraded, recovering
 Active Devices : 3          <==启动的（active）设备数量
Working Devices : 5       <==可工作的设备数量
 Failed Devices : 0          <==出现错误的设备数量
  Spare Devices : 2         <==预备spare磁盘的数量

         Layout : left-symmetric
     Chunk Size : 512K

 Rebuild Status : 17% complete

           Name : localhost.localdomain:0  ( local to host localhost.localdomain)
           UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
         Events : 3

    Number   Major   Minor   RaidDevice State
       0       8        9        0      active sync   /dev/sda9
       1       8       10        1      active sync   /dev/sda10
       2       8       11        2      active sync   /dev/sda11
       5       8       12        3      spare rebuilding   /dev/sda12

       4       8       13        -      spare   /dev/sda13

真正的完成build后的信息应该是：

# mdadm --detail /dev/md0
/dev/md0 :
        Version : 1.2
  Creation Time : Sun Oct 28 10:03:43 2012
     Raid Level : raid5
     Array Size : 3068928 (2.93 GiB 3.14 GB)
  Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
   Raid Devices : 4
  Total Devices : 5
    Persistence : Superblock is persistent

    Update Time : Sun Oct 28 10:06:00 2012
          State : clean
 Active Devices : 4
Working Devices : 5
 Failed Devices : 0
  Spare Devices : 1

         Layout : left-symmetric
     Chunk Size : 512K

           Name : localhost.localdomain:0  ( local to host localhost.localdomain)
           UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
         Events : 20

    Number   Major   Minor   RaidDevice State
       0       8        9        0      active sync   /dev/sda9
       1       8       10        1      active sync   /dev/sda10
       2       8       11        2      active sync   /dev/sda11
       5       8       12        3      active sync   /dev/sda12

       4       8       13        -      spare   /dev/sda13

还可以通过查看/proc/mdstat查看磁盘阵列情况：

# cat /proc/mdstat

Personalities : [raid6] [raid5] [raid4]
md0 : active raid5 sda12[5] sda13[4](S) sda11[2] sda10[1] sda9[0]
3068928 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]
unused devices: <none>

格式化与挂载使用RAID：

# mkfs -t ext4 /dev/md0

# mkdir /mnt/raid

# mount /dev/md

# mount /dev/md0 /mnt/raid

# df

文件系统          1K-块    已用     可用 已用% 挂载点
rootfs         82649712 4681980 73769332    6% /
devtmpfs        1964632       4  1964628    1% /dev
tmpfs           1975352     600  1974752    1% /dev/shm
tmpfs           1975352    1160  1974192    1% /run
/dev/sda6      82649712 4681980 73769332    6% /
tmpfs           1975352       0  1975352    0% /sys/fs/cgroup
tmpfs           1975352       0  1975352    0% /media
/dev/sda7      82649712 8355056 70096256   11% /home
/dev/sda5        198337   90718    97379   49% /boot
/dev/md0        3020688   70048  2797196    3% /mnt/raid
看到了吧，最后一个，是不是很有成就感，=_=

====仿真RAID错误的救援模式====

# mdadm –manage /dev/md[0-9] [--add 设备] [--remove 设备] [--fail 设备]

–add：将后面的设备加入到这个md中

–remove：将后面的设备从这个md中删除

–fail：将后面的设备设置成出错的状态

手动模拟磁盘错误：

# cp -a /etc /var/log /mnt/raid/

# df -h /mnt/raid/; du -smh /mnt/raid/*
文件系统        容量  已用  可用 已用% 挂载点
/dev/md0        2.9G  126M  2.7G    5% /mnt/raid
45M    /mnt/raid/etc
4.4M    /mnt/raid/log
16K    /mnt/raid/lost+found

# mdadm –manage /dev/md0 –fail /dev/sda10
mdadm: set /dev/sda10 faulty in /dev/md0

然后马上查看状态，这个动作要快点，因为raid会自动重建数据系统：

# mdadm --detail /dev/md0
/dev/md0 :
        Version : 1.2
  Creation Time : Sun Oct 28 10:03:43 2012
     Raid Level : raid5
     Array Size : 3068928 (2.93 GiB 3.14 GB)
  Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
   Raid Devices : 4
  Total Devices : 5
    Persistence : Superblock is persistent

    Update Time : Sun Oct 28 10:24:42 2012
          State : clean, degraded, recovering
 Active Devices : 3
Working Devices : 4
 Failed Devices : 1
  Spare Devices : 1

         Layout : left-symmetric
     Chunk Size : 512K

 Rebuild Status : 6% complete

           Name : localhost.localdomain:0  ( local to host localhost.localdomain)
           UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
         Events : 23

    Number   Major   Minor   RaidDevice State
       0       8        9        0      active sync   /dev/sda9
       4       8       13        1      spare rebuilding   /dev/sda13
       2       8       11        2      active sync   /dev/sda11
       5       8       12        3      active sync   /dev/sda12

       1       8       10        -      faulty spare   /dev/sda10

喝完咖啡后，看一下（其实也就1分钟左右）

# mdadm --detail /dev/md0
/dev/md0 :
        Version : 1.2
  Creation Time : Sun Oct 28 10:03:43 2012
     Raid Level : raid5
     Array Size : 3068928 (2.93 GiB 3.14 GB)
  Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
   Raid Devices : 4
  Total Devices : 5
    Persistence : Superblock is persistent

    Update Time : Sun Oct 28 10:26:53 2012
          State : clean
 Active Devices : 4
Working Devices : 4
 Failed Devices : 1
  Spare Devices : 0

         Layout : left-symmetric
     Chunk Size : 512K

           Name : localhost.localdomain:0  ( local to host localhost.localdomain)
           UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
         Events : 43

    Number   Major   Minor   RaidDevice State
       0       8        9        0      active sync   /dev/sda9
       4       8       13        1      active sync   /dev/sda13
       2       8       11        2      active sync   /dev/sda11
       5       8       12        3      active sync   /dev/sda12

       1       8       10        -      faulty spare   /dev/sda10

看到了吧，不用我来给你解释了吧。

接下来，我将出错的磁盘删除并加入新的磁盘：

首先，先新建一个新的分区，这个分区大小要与其他的分区一样大才好。然后再用mdadm删除错误的并加入新的

# fdisk /dev/sda

….下面建新分区步骤省略，如果不知道怎么建，参考我的企鹅日记（一）

# partprobe

# partprobe
[root@localhost ~]# mdadm –manage /dev/md0 –add /dev/sda14 –remove /dev/sda10
mdadm: added /dev/sda14
mdadm: hot removed /dev/sda10 from /dev/md0

# mdadm --detail /dev/md0
/dev/md0 :
        Version : 1.2
  Creation Time : Sun Oct 28 10:03:43 2012
     Raid Level : raid5
     Array Size : 3068928 (2.93 GiB 3.14 GB)
  Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
   Raid Devices : 4
  Total Devices : 5
    Persistence : Superblock is persistent

    Update Time : Sun Oct 28 10:33:04 2012
          State : clean
 Active Devices : 4
Working Devices : 5
 Failed Devices : 0
  Spare Devices : 1

         Layout : left-symmetric
     Chunk Size : 512K

           Name : localhost.localdomain:0  ( local to host localhost.localdomain)
           UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
         Events : 45

    Number   Major   Minor   RaidDevice State
       0       8        9        0      active sync   /dev/sda9
       4       8       13        1      active sync   /dev/sda13
       2       8       11        2      active sync   /dev/sda11
       5       8       12        3      active sync   /dev/sda12

       6       8       14        -      spare   /dev/sda14

看到了吧，结果不用我解释了吧。。哈哈

而这一切的一切都是online的状态下完成的，是不是很NB呢  =_=

====开机自动挂载RAID====

只需要知道/dev/md0的UUID就行

# mdadm –detail /dev/md0 | grep -i uuid
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374

# vi /etc/mdadm.conf
ARRAY /dev/md0 UUID=657db303:887c7b6f:b8d8fc91:dc7b3374
# vi /etc/fstab，在最后一行加入

/dev/md0 /mnt/raid ext4 defaults 1 2

测试下可行否（这个很重要，因为如果fstab修改不对可能导致开不了机器）

# umount /dev/md0; mount -a
[root@localhost ~]# df /mnt/raid/
文件系统         1K-块   已用    可用 已用% 挂载点
/dev/md0       3020688 120464 2746780    5% /mnt/raid
OK，没有问题，那么你就可以重启了，看是不是自动挂载了呢。

====关闭RAID====

1，先卸载

# umount /dev/md0

2，删除配置文件内容：

# vi /etc/fstab，删除（注释）下面这行

/dev/md0 /mnt/raid ext4 defaults 1 2

3，关闭/dev/md0：

# mdadm –stop /dev/md0

4，# cat /proc/mdstat
Personalities : [raid6] [raid5] [raid4]
unused devices: <none>

5，vi /etc/mdadm.conf，删除（注释）下面的行

ARRAY /dev/md0 UUID=657db303:887c7b6f:b8d8fc91:dc7b3374

好的，所有的RAID的基本都讲完了。不过上面我用的时一块磁盘，实际用途中记得用多块磁盘啊！！

=======================================END====================

 

本人博客已搬家，新地址为：http://yidao620c.github.io/