原文地址: https://www.tony-yin.site/201...
早前写过一篇【利用Raid卡工具获取逻辑盘是否为SSD】的文章,大概讲述了如何通过raid
卡工具判断一个逻辑磁盘对应物理磁盘是否为SSD
,当时主要提到了megacli
和sas3ircu
这两种工具,核心是如何通过raid
卡工具定位到逻辑磁盘对应的物理磁盘的位置,当时的方式现在看来在有些场景会存在缺陷。
当时的方案主要是先通过lspci
获取raid
卡型号,然后找到对应的raid
卡型号,紧接着通过lsscsi
命令获取逻辑磁盘的targetid
,再通过raid
卡工具根据targetid
定位到对应的物理盘。当时的方案在多controller
的场景下存在问题,可能会出现重复target id
的情况,所以这时候只能再借助controller id
来定位唯一的磁盘了。总而言之,想真正定位逻辑磁盘对应的物理磁盘,就必须要获取到磁盘的controller id
,enclosure id
和slot number
,有了这三个参数,便可以获取该磁盘的信息,或者对该物理磁盘进行点灯、响音和做raid
等操作。
那么,具体如何定位逻辑磁盘的物理位置呢?且看下文分析
获取 raid 卡信息
通过lspci
命令可以获取到操作系统上所有raid
卡信息,我们可以看到每个raid
卡最前面都有一串数字,比如第一行是02:00.0
,第二行是03:00.0
,这里的02
和03
表示的是raid
卡的busid
,即raid
卡控制器在pci
总线上的id
。
[root@tony ~]# lspci | grep "LSI Logic"
02:00.0 RAID bus controller: LSI Logic / Symbios Logic MegaRAID SAS-3 3008 [Fury] (rev 02)
03:00.0 RAID bus controller: LSI Logic / Symbios Logic MegaRAID SAS-3 3108 [Invader] (rev 02)
获取磁盘 pcipath
在linux
中,一切皆文件,每个文件都有自己的唯一标识,对于磁盘而言,pcipath
就是它的唯一标识,pci
总线上面有很多控制器,比如scsi
控制器,而磁盘又存在于scsi
控制器上,所以我们可以在lsscsi
命令获取到的scsi
设备列表中查看到操作系统上的磁盘信息。
以sda
为例,我们可以在/dev/disk/by-path
目录下查看到磁盘的pcipath
[root@tony ~]# ll /dev/disk/by-path/
total 4
lrwxrwxrwx 1 root root 9 May 11 10:30 pci-0000:02:00.0-scsi-0:2:0:0 -> ../../sda
lrwxrwxrwx 1 root root 10 May 11 10:30 pci-0000:02:00.0-scsi-0:2:0:0-part1 -> ../../sda1
lrwxrwxrwx 1 root root 10 May 11 10:30 pci-0000:02:00.0-scsi-0:2:0:0-part2 -> ../../sda2
lrwxrwxrwx 1 root root 9 May 11 16:22 pci-0000:02:00.0-scsi-0:2:1:0 -> ../../sdb
lrwxrwxrwx 1 root root 9 May 11 16:22 pci-0000:02:00.0-scsi-0:2:10:0 -> ../../sdk
由于在linux
中,udev
是用户态的设备管理,所以我们也可以通过udev
获取。
[root@tony ~]# udevadm info --query=symlink --name=sda
disk/by-id/scsi-36509a4c0ac86790022337b9105005435 disk/by-id/wwn-0x6509a4c0ac86790022337b9105005435 disk/by-path/pci-0000:02:00.0-scsi-0:2:0:0
这边我们可以得到磁盘sda
的pcipath
为pci-0000:02:00.0-scsi-0:2:0:0
,02
就是磁盘的raid
卡的bus id
,后面的00
表示channel id
,再后面的0:2:0:0
就和lsscsi
获取的一样了,其中2
就表示target id
。
所以通过bud id
,我们可以获取到磁盘对应的raid
卡型号,根据对应的raid
卡工具操作磁盘。这边我们只讨论megaraid
,所以工具也就是megacli
了。
获取 controller id
上面我们获取到了磁盘的target id
和对应raid
卡的bus id
,而对于megacli
工具而言,每个raid
卡都有一个与之对应的controller
。
[root@tony ~]# /opt/MegaRAID/MegaCli/MegaCli64 -AdpGetPciInfo -aall -NoLog
PCI information for Controller 0
--------------------------------
Bus Number : 2
Device Number : 0
Function Number : 0
PCI information for Controller 1
--------------------------------
Bus Number : 3
Device Number : 0
Function Number : 0
Exit Code: 0x00
这边我们可以看到megacli
获取到了两个controller
,也就对应上面lspci
获取到的两张raid
卡。细心的朋友可以发现这边有一个Bus Number
,分别为2
和3
,而我们上面获取到了raid
卡的bus id
分别为02
和03
,没错,这边的Bus Number
和bus id
是对应的,只是Bus number
没有自动填补成两位数,所以我们可以通过bus id
得到sda
所对应的controller
为0
。
注意:
原本系统中版本8.07.07
的megacli
工具获取raid
卡信息的时候会存在问题,每次Bus Number
都会变化,我们只要升级megacli
即可,我这边是把megacli
升级到了8.07.14
版本。安装包地址:https://github.com/tony-yin/M...
获取磁盘组
此时,我们拥有了controller id
,可以获取该controller
下所有的磁盘组信息。
[root@tony ~]# /opt/MegaRAID_new/MegaCli/MegaCli64 -LdPdInfo -a0 -NoLog
Adapter #0
Number of Virtual Disks: 13
Virtual Drive: 0 (Target Id: 0)
Name :
RAID Level : Primary-1, Secondary-0, RAID Level Qualifier-0
Size : 558.375 GB
Sector Size : 512
Is VD emulated : No
Mirror Data : 558.375 GB
State : Optimal
Strip Size : 64 KB
Number Of Drives : 2
Span Depth : 1
Default Cache Policy: WriteThrough, ReadAheadNone, Direct, No Write Cache if Bad BBU
Current Cache Policy: WriteThrough, ReadAheadNone, Direct, No Write Cache if Bad BBU
Default Access Policy: Read/Write
Current Access Policy: Read/Write
Disk Cache Policy : Disk's Default
Encryption Type : None
Default Power Savings Policy: Controller Defined
Current Power Savings Policy: None
Can spin up in 1 minute: Yes
LD has drives that support T10 power conditions: Yes
LD's IO profile supports MAX power savings with cached writes: No
Bad Blocks Exist: No
Is VD Cached: No
Number of Spans: 1
Span: 0 - Number of PDs: 2
PD: 0 Information
Enclosure Device ID: 32
Slot Number: 12
Drive's position: DiskGroup: 0, Span: 0, Arm: 0
Enclosure position: 1
Device Id: 12
WWN: 50000398181A974C
Sequence Number: 2
Media Error Count: 0
Other Error Count: 0
Predictive Failure Count: 0
Last Predictive Failure Event Seq Number: 0
PD Type: SAS
...
...
然后我们可以根据target id
获取对应的磁盘组信息,target id
与上面的Target Id
所对应,这样我们可以过滤得到唯一的磁盘组信息。这边我们可以看到sda
对应Target Id
为0
的磁盘组,该raid
类型为raid1
,虚拟磁盘组中有两块物理盘,然后我们可以获取这两块物理盘的enclosure id
和slot number
,这样再加上前文的controller id
,我们就可以完完全全地定位到具体一块磁盘的物理位置。
一键定位
针对这种需求,本人根据以上逻辑写了一个简单的脚本可以一键获取磁盘的定位。
[root@tony ~]# ./get_disk_location.py sda
['0:32:12', '0:32:13']
这边0:32:12
分别表示磁盘的controller id
,enclosure id
和slot number
。
完整代码地址: https://github.com/tony-yin/M...
总结
之前的做法大部分场景可行,但是在一些场合偶尔会发现问题,总感觉还是不够靠谱,身边的人还有通过sda
,sdb
这种排列顺序来查找和megacli
中显示磁盘的对应关系的,就更不靠谱了。linux
操作系统是可以识别到具体硬件设备的,所以是肯定存在方法识别硬件对应的逻辑设备的,本文通过pcipath
获取到设备的唯一标识,然后根据pcipath
中的bus id
和megacli
中的cobtroller
建立连接,最后通过target id
锁定唯一磁盘组中的磁盘信息。
通过这种方式,我们不需要肉眼判断,也不需要顾虑部分场景方案不适用,这完全就是操作系统使用的方式,使用这种最基础,最底层的方式实现,真是让人豁然开朗。这跟看源码类似,了解一个功能的背后具体实现,你才知道最正确的姿势,不用去碰,去凑,这种感觉真好。
给大家推荐一本书《Linux
设备驱动程序》,这本书详细讲解了linux
中各种设备与驱动的细节,很底层也很枯燥,不过看完后应该会很有收获。希望大家在使用各种已有工具和框架的基础上,多去了解背后的实现机制,这样可以帮助我们更好地实现更深层次的需求。
Refer
- Persistent block device naming
- hwraid
- showtools
- Linux SCSI 子系统剖析