通过Ceph RBD实现ISCSI挂载支持

一、前提准备

• 两台 Linux 服务器（主机名分别为ceph-iscsi-node1、ceph-iscsi-node2），作为iscsi网关，可以是集群中的主机。
• 一台 Linux 主机，作为 Linux 系统下的客户端。
• 一台 Windows 主机，作为 Windows 系统下的客户端。

二、配置ceph-iscsi网关

• 修改osd配置

shell> cat /etc/ceph/ceph.conf
[osd] 
osd heartbeat grace = 20 
osd heartbeat interval = 5 

• 新建repo文件（已有ceph iscsi rpm包可跳过该步）

cat /etc/yum.repo.d/iscsi.repo
[ceph-iscsi]
name=Ceph-iscsi
baseurl=https://4.chacra.ceph.com/r/ceph-iscsi/master/88f3f67981c7da15448f140f711a1a8413d450b0/centos/7/flavors/default/noarch/
priority=1
gpgcheck=0

[tcmu-runner]
name=tcmu-runner
baseurl=https://3.chacra.ceph.com/r/tcmu-runner/master/eef511565078fb4e2ed52caaff16e6c7e75ed6c3/centos/7/flavors/default/x86_64/
priority=1
gpgcheck=0

[python-rtslib]
name=python-rtslib
baseurl=https://2.chacra.ceph.com/r/python-rtslib/master/67eb1605c697b6307d8083b2962f5170db13d306/centos/7/flavors/default/noarch/
priority=1
gpgcheck=0

• 将yum源的rpm包下载到本地源（已有ceph iscsi rpm包可跳过该步）

shell> cd /usr/local/src/
shell> yum install --downloadonly --downloaddir=yum/ceph-iscsi/ targetcli python-rtslib tcmu-runner ceph-iscsi
shell> createrepo -p -d -o yum/ yum/

• ceph-iscsi网关初始配置
  如果使用的不是集群内的节点作为ceph-iscsi网关，那么就需要进行一些初始的配置。

# 安装ceph
shell> yum install -y ceph-common librados2 librados2-devel librbd1 python-rados python-rbd 
shell> yum install -y cmake make gcc \
libnl3 libnl3-devel glib2 glib2-devel zlib zlib-devel kmod kmod-devel \
glusterfs-api glusterfs-api-devel python-setuptools python2-cryptography
shell> yum install -y libkmod pyparsing python-kmod python-pyudev python-gobject \
python-urwid python-pyparsing python-netaddr python-netifaces \
python-crypto python-requests python-flask pyOpenSSL
# 从集群中的一台机器上拷贝 ceph.conf 到本机的 /etc/ceph/ceph.conf
# 从集群中的一台机器上拷贝 ceph.client.admin.keyring 到本机的 /etc/ceph/ceph.client.admin.keyring

# 在两台机器上分别绑定host
shell> cat /etc/hosts
10.20.63.241 ceph-iscsi-node1
10.20.63.245 ceph-iscsi-node2

三、安装配置iscsi

• 安装rpm包

shell> cd /usr/local/src
shell> wget http://dlsw.91donkey.com/software/source/ceph/ceph-iscsi/ceph-iscsi-3.2-8.g88f3f67.el7.noarch.rpm
shell> wget http://dlsw.91donkey.com/software/source/ceph/ceph-iscsi/python-rtslib-2.1.fb68-1.noarch.rpm
shell> wget http://dlsw.91donkey.com/software/source/ceph/ceph-iscsi/python-configshell-1.1.fb23-5.el7.noarch.rpm
shell> wget http://dlsw.91donkey.com/software/source/ceph/ceph-iscsi/tcmu-runner-1.4.1-0.el7.centos.x86_64.rpm
shell> rpm -ivh *.rpm

• 新建iscsi-gateway配置文件

# 两台ceph-iscsi节点的配置要保持一致
shell> cat >> /etc/ceph/iscsi-gateway.cfg << EOF
[config]
cluster_name = ceph
pool = iscsi_pools
cluster_client_name = client.admin
api_secure = false
trusted_ip_list = 10.20.72.191,10.20.72.192,10.20.72.193
EOF

• 创建rbd pool

shell> ceph osd pool create iscsi_pools 128 128
shell> ceph osd pool application enable iscsi_pools rbd

• 启动ceph iscsi服务

shell> systemctl daemon-reload
shell> systemctl enable rbd-target-api 
shell> systemctl start rbd-target-api && systemctl status rbd-target-api
shell> systemctl start rbd-target-gw && systemctl status rbd-target-gw

• 配置ceph-iscsi（在其中一台网关配置即可）

shell> gwcli
gwcli /> cd /iscsi-targets
gwcli /> create iqn.2019-06.com.91donkey.iscsi-gw:iscsi-gw
gwcli /> cd /iscsi-targets/iqn.2019-06.com.91donkey.iscsi-gw:iscsi-gw/gateways
gwcli /> create skipchecks=true ceph-iscsi-node1 10.20.63.241
gwcli /> create skipchecks=true ceph-iscsi-node2 10.20.63.245
gwcli /> cd /disks
gwcli /> create pool=iscsi_pools image=disk01 size=100G
gwcli /> cd /iscsi-targets/iqn.2019-06.com.91donkey.iscsi-gw:iscsi-gw/hosts
gwcli /> create iqn.2019-06.com.91donkey:iscsi-client
gwcli /> auth username=myiscsiusername password=myiscsipassword
gwcli /> disk action=add disk=iscsi_pools/disk01 

四、Linux客户端配置

暂无

五、Windows客户端配置

• 以win2008r2为例，添加多路径支持，防止单点故障，在 控制面板 -> 管理工具 -> 服务器管理器 -> 功能 -> 添加功能
  

• 在 控制面板 -> 管理工具 -> iSCSI发起程序
  

• 修改发起程序名称
  

• 添加发现目标门户
  

• 可以看到出现目标
  

• 连接到该目标
  

• 修改高级设置
  

• 可以看到已连接
  

• 在磁盘管理中看到磁盘已连接
  

转载于:https://www.cnblogs.com/91donkey/p/11400967.html