一、linux主机IP配置
192.168.0.109 node1
192.168.0.110 node2
192.168.0.111 node3
二、ceph预检环境部署
1)安装ntp
2)ssh免密登录
3)关闭selinux&firewalld
三、配置ceph源
修改或者新建 /etc/yum.repos.d/ceph.repo文件
[Ceph]
name=Ceph packages for $basearch
baseurl=http://mirrors.163.com/ceph/rpm-mimic/el7/$basearch
enabled=1
gpgcheck=0
type=rpm-md
gpgkey=https://mirrors.163.com/ceph/keys/release.asc
priority=1
[Ceph-noarch]
name=Ceph noarch packages
baseurl=http://mirrors.163.com/ceph/rpm-mimic/el7/noarch
enabled=1
gpgcheck=0
type=rpm-md
gpgkey=https://mirrors.163.com/ceph/keys/release.asc
priority=1
[ceph-source]
name=Ceph source packages
baseurl=http://mirrors.163.com/ceph/rpm-mimic/el7/SRPMS
enabled=1
gpgcheck=0
type=rpm-md
gpgkey=https://mirrors.163.com/ceph/keys/release.asc
priority=1
四、安装ceph-deploy
#yum install -y ceph-deploy
五、创建集群
1)创建配置目录
#cd root
#mkdir ceph-cluster
#cd ceph-cluster
2)创建集群
#ceph-deploy new node1 node2 node3
3)安装ceph
#ceph-deploy install node1 node2 node3
安装完成后,输入ceph –v可以查看ceph版本。
4)配置初始 monitor(s)、并收集所有密钥
#ceph-deploy mon create-initial
5)将配置文件和管理密钥复制到管理节点和你的Ceph的节点
#ceph-deploy admin node1 node2 node3
输入ceph –s
提示缺少mgr
6)部署管理器守护程序
#ceph-deploy mgr create node1
enable dashboard模块
#ceph mgr module enable dashboard
生成并安装自签名的证书
# ceph dashboard create-self-signed-cert
生成key pair,并配置给ceph mgr。生成了两个key相关的文件
# mkdir mgr-dashboard
# cd mgr-dashboard/
# openssl req -new -nodes -x509 -subj "/O=IT/CN=ceph-mgr-dashboard" -days 3650 -keyout dashboard.key -out dashboard.crt -extensions v3_ca
设置登陆认证的用户名和密码
ceph dashboard set-login-credentials admin admin
查看mgr服务
#ceph mgr services
重启重启一下mgr dashboard
# ceph mgr module disable dashboard
# ceph mgr module enable dashboard
输入:https://node1:8443,如下:
输入用户名密码进入监控界面
六、安装osd
1)查看各节点磁盘信息
#fdisk –l
/dev/sda 为需要添加的osd磁盘
2)擦净磁盘
#ceph-deploy disk zap node1 /dev/sda
3)安装sod
#ceph-deploy osd create --data /dev/sda node1
#ceph-deploy osd create --data /dev/sdb node2
#ceph-deploy osd create --data /dev/sdb node3
七、创建ceph文件系统
创建mds服务奇数个
#ceph-deploy mds create node1 node3
一个 Ceph 文件系统需要至少两个 RADOS 存储池,一个用于数据、一个用于元数据
创建命令如下:
# ceph osd pool create cephfs_data 64
# ceph osd pool create cephfs_metadata 64
创建好存储池后,你就可以用 fs new 命令创建文件系统了
# ceph fs new cephfs cephfs_metadata cephfs_data
八、挂载
#mkdir /cephfs
#cd ceph-cluster
#cat ceph.client.admin.keyring
AQAtLQ9fKI2hDhAAHra9+l3wwJ+KYJ3xnmrHIA==
mount -t ceph 192.168.0.109:6789:/ /cephfs -o name=admin,secret= AQAtLQ9fKI2hDhAAHra9+l3wwJ+KYJ3xnmrHIA==
设置开机自动挂载
#echo "AQAtLQ9fKI2hDhAAHra9+l3wwJ+KYJ3xnmrHIA==" > /etc/ceph/admin.secret
# vi /etc/fstab
#192.168.0.109:6789:/ /cephfs ceph name=admin,secret=AQAtLQ9fKI2hDhAAHra9+l3wwJ+KYJ3xnmrHIA==,noatime,_netdev 0 2