LINUX下多路径（multi-path）介绍及使用

原文转自：http://rootking.blog.51cto.com/2619611/476212

一、什么是多路径

普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。而到了有光纤组成的SAN环境，或者由iSCSI组成的IPSAN环境，由于主机和存储通过了光纤交换机或者多块网卡及IP来连接，这样的话，就构成了多对多的关系。也就是说， 主机到存储可以有多条路径可以选择。主机到存储之间的IO由多条路径可以选择。

每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样是在使用的时候，就给用户带来了困惑。 多路径软件就是为了解决上面的问题应运而生的。

多路径的主要功能就是和存储设备一起配合实现如下功能：  
1.故障的切换和恢复 
2.IO流量的负载均衡 
3.磁盘的虚拟化 
由于多路径软件是需要和存储在一起配合使用的，不同的厂商基于不同的操作系统，都提供了不同的版本。并且有的厂商，软件和硬件也不是一起卖的，如果要使用多路径软件的话，可能还需要向厂商购买license才行。比如EMC公司基于linux下的多路径软件，就需要单独的购买license。好在， RedHat和Suse的2.6的内核中都自带了免费的多路径软件包，并且可以免费使用，同时也是一个比较通用的包，可以支持大多数存储厂商的设备，即使是一些不是出名的厂商，通过对配置文件进行稍作修改，也是可以支持并运行的很好的。

二、Linux下multipath介绍，需要以下工具包：

在CentOS 5中，最小安装系统时multipath已经被安装，查看multipath是否安装如下：

[root@rac1 ~]# rpm -aq|grep mapper
device-mapper-multipath-0.4.7-34.el5
device-mapper-event-1.02.39-1.el5
device-mapper-1.02.39-1.el5
[root@rac1 ~]# 

1、device-mapper-multipath： 即multipath-tools。主要提供multipathd和multipath等工具和 multipath.conf等配置文件。这些工具通过device mapper的ioctr的接口创建和配置multipath设备（调用device-mapper的用户空间库。创建的多路径设备会在/dev /mapper中）。

2、 device-mapper： 主要包括两大部分：内核部分和用户部分。内核部分主要由device mapper核心（dm.ko）和一些target driver（md-multipath.ko）。核心完成设备的映射，而target根据映射关系和自身特点具体处理从mappered device 下来的I/O。同时，在核心部分，提供了一个接口，用户通过ioctr可和内核部分通信，以指导内核驱动的行为，比如如何创建mappered device，这些divece的属性等。linux device mapper的用户空间部分主要包括device-mapper这个包。其中包括dmsetup工具和一些帮助创建和配置mappered device的库。这些库主要抽象，封装了与ioctr通信的接口，以便方便创建和配置mappered device。multipath-tool的程序中就需要调用这些库。 

3、dm-multipath.ko和dm.ko： dm.ko是device mapper驱动。它是实现multipath的基础。dm-multipath其实是dm的一个target驱动。 

4、scsi_id： 包含在udev程序包中，可以在multipath.conf中配置该程序来获取scsi设备的序号。通过序号，便可以判断多个路径对应了同一设备。这个是多路径实现的关键。scsi_id是通过sg驱动，向设备发送EVPD page80或page83 的inquery命令来查询scsi设备的标识。但一些设备并不支持EVPD 的inquery命令，所以他们无法被用来生成multipath设备。但可以改写scsi_id，为不能提供scsi设备标识的设备虚拟一个标识符，并输出到标准输出。multipath程序在创建multipath设备时，会调用scsi_id，从其标准输出中获得该设备的scsi id。在改写时，需要修改scsi_id程序的返回值为0。因为在multipath程序中，会检查该直来确定scsi id是否已经成功得到。

 

三、multipath在CentOS5中的基本配置过程： 
1、安装和加载多路径软件包 
# yum –y install device-mapper device-mapper-multipath

# chkconfig –level 2345 multipathdon #设置成开机自启动multipathd

# lsmod |grep dm_multipath #来检查安装是否正常

dm_multipath           56153  0 
scsi_dh                41665  1 dm_multipath
dm_mod                101521  4 dm_mirror,dm_multipath,dm_raid45,dm_log
如果模块没有加载成功请使用下列命初始化DM，或重启系统 
---Use the following commands to initialize and start DM for the firsttime: 
# modprobe dm-multipath 
# modprobe dm-round-robin 
# service multipathd start
# multipath –v2

[root@rac1 ~]# service multipathd status
multipathd is stopped
2、配置multipath：

Multipath的配置文件是/etc/multipath.conf , 如需要multipath正常工作只需要如下配置即可：(如果需要更加详细的配置，请看本文后续的介绍)

blacklist {

devnode "^sda"

}

defaults {

user_friendly_names yes

path_grouping_policy multibus

failback immediate

no_path_retry fail

}

# vi /etc/multipath.conf