目录
引言
一、文件系统
1、组件
2、作用
3、文件系统的挂载使用
二、GlusterFS概述
1、GFS简介
组件
2、GFS特点
2.1扩展性和高性能
2.2高可用性
2.3全局统一命名空间
2.4弹性卷管理
2.5基于标准协议
3、GFS 专业术语
3.1 Brick(存储块)
3.2 Volume(逻辑卷)
3.3 FUSE
3.4 VFS(虚拟端口)
3.5 Glusterd(后台管理进程)
4、模块化堆栈式架构
GFS-client 端
网络通讯
5、GFS工作流程
6、不同服务器详解
7、后端存储如何定位
三、GFS卷类型
1、分布式卷(Distribute volume)
特点
2、条带卷(Stripe volume)
特点
3、复制卷(Replica volume)
特点
4、分布式条带卷(Distribute Stripe volume)
5、分布式复制卷(Distribute Replica volume)
6、条带复制卷(Stripe Replica volume)
7、分布式条带复制卷(Distribute Stripe Replicavolume)
四、GFS部署
1、环境说明
2、硬盘分区挂载
3、配置/etc/hosts文件(所有节点都需要操作)
4、安装、启动GFS
配置yum本地源
5、添加节点并创建集群
6、根据规则规划建卷
6.1 规则
6.2创建分布式卷
6.3创建条带卷
6.4创建复制卷
6.5创建分布式条带卷
6.6创建分布式复制卷
7、Client部署
7.1 环境部署
8、破坏性测试
五、GFS 文件系统的维护命令
总结
当数据集的大小超过一台独立物理计算机的存储能力时,就有必要对它进行分区,并存储到若干台单独的计算机上。GFS 是用来管理网络中跨多台计算机存储的文件系统。这种系统构架于网络之上,肯定会引入网络编程的复杂性,因此它比普通的磁盘文件系统更为复杂。
GFS(Gluster File System) 是一个可扩展、开源的分布式文件系统(可以很好的体现出弹性伸缩的特点),用于大型的、分布式的、对大量数据进行访问的应用,在传统的解决方案中,GFS 能够灵活的结合物理的,虚拟的和云资源去体现高可用和企业级的性能存储
例如:
无元数据服务器
元数据是核心,描述对象的信息,影响其属性;
例如NFS,存放数据本身,是一个典型的元数据服务器可能存在单点故障,故要求服务器性能较高,服务器一旦出现故障就会导致数据丢失;
反过来看,所以无元数据服务不会有单点故障。
那么数据存放在哪里呢?会借用分布式的原则,分散存储,不会有一个统一的数据服务器
可扩展性,扩展节点,通过多节点提高性能。
GlusterFS利用双重特性来提供高容量存储解决方案。
(1)Scale-Out架构允许通过简单地增加存储节点的方式来提高存储容量和性能(磁盘、计算和I/O资源都可以独立增加),支持10GbE和 InfiniBand等高速网络互联。
(2)Gluster弹性哈希(ElasticHash)解决了GlusterFS对元数据服务器的依赖,改善了单点故障和性能瓶颈,真正实现了并行化数据访问。GlusterFS采用弹性哈希算法在存储池中可以智能地定位任意数据分片(将数据分片存储在不同节点上),不需要查看索引或者向元数据服务器查询。
不存在单点故障,有备份机制,类似 Raid 的容灾机制。GlusterFS可以对文件进行自动复制,如镜像或多次复制,从而确保数据总是可以访问,甚至是在硬件故障的情况下也能正常访问。
当数据出现不一致时,自我修复功能能够把数据恢复到正确的状态,数据的修复是以增量的方式在后台执行,几乎不会产生性能负载。
GlusterFS可以支持所有的存储,因为它没有设计自己的私有数据文件格式,而是采用操作系统中主流标准的磁盘文件系统(如EXT3、XFS等)来存储文件,因此数据可以使用传统访问磁盘的方式被访问。
集中化管理,类比 API 的性质/概念,系统里根据他命名所定义的隔离区域,是一个独立空间;统一的名称空间,与客户端交互,把请求存放至后端的块数据服务器。
分布式存储中,将所有节点的命名空间整合为统一命名空间,将整个系统的所有节点的存储容量组成一个大的虚拟存储池,供前端主机访问这些节点完成数据读写操作。
方便扩容及对后端存储集群的管理与维护,较为复杂。GlusterFS通过将数据储存在逻辑卷中,逻辑卷从逻辑存储池进行独立逻辑划分而得到。
逻辑存储池可以在线进行增加和移除,不会导致业务中断。逻辑卷可以根据需求在线增长和缩减,并可以在多个节点中实现负载均衡。
文件系统配置也可以实时在线进行更改并应用,从而可以适应工作负载条件变化或在线性能调优。
基于标准化的文件使用协议,让 CentOS 兼容 GFS。
Gluster 存储服务支持 NFS、CIFS、HTTP、FTP、SMB 及 Gluster原生协议,完全与 POSIX 标准(可移植操作系统接口)兼容。
现有应用程序不需要做任何修改就可以对Gluster 中的数据进行访问,也可以使用专用 API 进行访问。
实际存储用户数据的服务器
本地文件系统的"分区”
用户 空间的文件系统(类比EXT4),“这是一个伪文件系统”;以本地文件系统为例,用户想要读写一个文件,会借助于EXT4文件系统,然后把数据写在磁盘上;而如果是远端的GFS,客户端的请求则应该交给FUSE(为文件系统),就可以实现跨界点存储在GFS上
内核态的虚拟文件系统,用户是先提交请求交给VFS然后VFS交给FUSE,再交给GFS客户端,最后由客户端交给远端的存储
行再存储节点的进程(客户端运行的是gluster client)GFS使用过程中整个GFS之间的交换由Gluster client 和glusterd完成
模块化:类似linux 编译安装,很多功能都可以做定制的,通常都是通过软件开发的方式封装为模块,按需使用/不适用
GlusterFS也是这个思想:把功能封装为一个个模块,通过加载/调用/启用的方式就可以对应的功能堆栈式架构设计通过对模块不同功能的组合来实现复杂功能
GFS-server 端功能模块的划分
总结:应用程序访问本地挂载的目录进行查看修改等操作,服务器会通过内核交给文件系统进行处理,并且处理后的数据会通过网络传递给该挂载目录实际所在的源服务器中,源服务器会对数据进行存储
Application:客户端或应用程序通过GlusterFSync的挂载点访问数据
VFS:linux系统内核通过VFS的API 收到请求并处理
FUSE:VFS将数据递交给FUSE内核文件系统,fuse文件系统则是将数据通过/dev/fuse设备文件递交给了GlusterFS
GlusterFS Client :通过网络将数据传递至远端的GlusterFS Server, 并且写入到服务器存储设备上
弹性HASH算法是Davies-Meyer算法的具体实现,通过HASH算法可以得到一个32位的整数范围的hash值, 假设逻辑卷中有N个存储单位Brick,则32位的整数范围将被划分为N个连续的子空间,每个空间对应一个Brick。
当用户或应用程序访问某一个命名空间时,通过对该命名空间计算HASH值,根据该HASH值所对应的32位整数空间定位数据所在的Brick。
为了解决分布式文件数据索引、定位的复杂程度,而使用了HASH算法来辅助。其中分布式(平均分配)的好处:
GlusterFS支持七种卷,即分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷、条带复制卷和分布式条带复制卷
类似RAID0,文件被分成数据块并以轮询的方式分布到多个Brick Server上,文件存储以数据块为单位,支持大文件存储,文件越大,读取效率越高,但是不具备冗余性。
类似RAID10,同时具有条带卷和复制卷的特点
三种基本卷的复合卷,通常用于类Map Reduce应用
四台节点均需要添加四块磁盘,不需要太大(建议关机状态下添加)
节点 | IP | 磁盘 | 挂载点 |
node1 | 192.168.223.10 | sdb1、sdc1、sdd1、sde1 | /data |
node2 | 192.168.223.11 | sdb1、sdc1、sdd1、sde1 | /data |
node3 | 192.168.223.12 | sdb1、sdc1、sdd1、sde1 | /data |
node4 | 192.168.223.13 | sdb1、sdc1、sdd1、sde1 | /data |
Client | 192.168.223.14 | / | / |
操作
#四台服务器操作
hostname node1/2/3/4 #临时修改主机名
bash
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
ntpdate ntp1.aliyun.com #时间同步(可以没有)
[root@node1 ~] # systemctl stop firewalld
[root@node1 ~] # setenforce 0
[root@node1 ~] # vim /opt/fdisk.sh
#!/bin/bash
NEWDEV=`ls /dev/sd* | grep -o 'sd[b-z]' | uniq`
for VAR in $NEWDEV
do
echo -e "n\np\n\n\n\nw\n" | fdisk /dev/$VAR &> /dev/null
mkfs.xfs /dev/${VAR}"1" &> /dev/null
mkdir -p /data/${VAR}"1" &> /dev/null
echo "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0" >> /etc/fstab
done
mount -a &> /dev/null
:wq
[root@node1 ~] # chmod +x /opt/fdisk.sh
[root@node1 ~] # cd /opt/
[root@node1 /opt] # ./fdisk.sh
[root@node1 /opt] # echo "192.168.223.10 node1" >> /etc/hosts
[root@node1 /opt] # echo "192.168.223.11 node2" >> /etc/hosts
[root@node1 /opt] # echo "192.168.223.12 node3" >> /etc/hosts
[root@node1 /opt] # echo "192.168.223.13 node4" >> /etc/hosts
[root@node1 /opt] # ls
fdisk.sh gfsrepo.zip rh
[root@node1 /opt] # unzip gfsrepo.zip
[root@node1 /opt] # cd /etc/yum.repos.d/
[root@node1 /etc/yum.repos.d] # ls
local.repo repos.bak
[root@node1 /etc/yum.repos.d] # mv * repos.bak/
[root@node1 /etc/yum.repos.d] # ls
repos.bak
[root@node1 /etc/yum.repos.d] # vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1
:wq
[root@node1 /etc/yum.repos.d] # yum clean all && yum makecache
已加载插件:fastestmirror, langpacks
正在清理软件源: glfs
Cleaning up everything
Maybe you want: rm -rf /var/cache/yum, to also free up space taken by orphaned data from disabled or removed repos
已加载插件:fastestmirror, langpacks
glfs | 2.9 kB 00:00:00
(1/3): glfs/filelists_db | 62 kB 00:00:00
(2/3): glfs/other_db | 46 kB 00:00:00
(3/3): glfs/primary_db | 92 kB 00:00:00
Determining fastest mirrors
元数据缓存已建立
[root@node1 /etc/yum.repos.d] # yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma
[root@node1 /etc/yum.repos.d] # systemctl start glusterd.service
[root@node1 /etc/yum.repos.d] # systemctl enable glusterd.service
Created symlink from /etc/systemd/system/multi-user.target.wants/glusterd.service to /usr/lib/systemd/system/glusterd.service.
[root@node1 /etc/yum.repos.d] # systemctl status glusterd.service
● glusterd.service - GlusterFS, a clustered file-system server
Loaded: loaded (/usr/lib/systemd/system/glusterd.service; enabled; vendor preset: disabled)
Active: active (running) since 二 2021-03-02 19:45:10 CST; 764ms ago
Main PID: 51664 (glusterd)
CGroup: /system.slice/glusterd.service
└─51664 /usr/sbin/glusterd -p /var/run/glusterd.pid --log-level INFO
3月 02 19:45:10 node1 systemd[1]: Starting GlusterFS, a clustered file-system server...
3月 02 19:45:10 node1 systemd[1]: Started GlusterFS, a clustered file-system server.
添加节点到存储信任池中(在node1节点上操作)
gluster peer probe node1
gluster peer probe node2
gluster peer probe node3
gluster peer probe node4
gluster peer status #在每个节点上查看群集状态
卷名 | 卷类型 | Brick |
dis-volume | 分布式卷 | node1(/data/sdb1)、node2(/data/sdb1) |
stripe-volume | 条带卷 | node1(/data/sdc1)、node2(/data/sdc1) |
rep-volume | 复制卷 | node3(/data/sdb1)、node4(/data/sdb1) |
dis-stripe | 分布式条带卷 | node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1) |
dis-rep | 分布式复制卷 | node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1) |
gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force
#创建分布式卷,没有指定类型,默认创建的是分布式卷
gluster volume list
#查看类型
gluster volume start dis-volume
#开启
gluster volume info dis-volume
#查看卷信息
gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force
#指定类型为 stripe,数值为2,且后面跟了2个 Brick Server,所以创建的是条带卷
gluster volume start stripe-volume
gluster volume info stripe-volume
gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force #指定类型为replica,数值为2,且后面跟了2个Brick Server,所以创建的是复制卷
gluster volume start rep-volume
gluster volume info rep-volume
gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force #指定类型为stripe,数值为2,而且后面跟了4个Brick Server,是2的两倍,所以创建的是分布式条带卷
gluster volume start dis-stripe
gluster volume info dis-stripe
gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force #指定类型为 replica,数值为 2,而且后面跟了 4 个 Brick Server,是 2 的两倍,所以创建的是分布式复制卷
gluster volume start dis-rep
gluster volume info dis-rep
gluster volume list
在 node1上创建五个卷后,在客户端上把卷挂载在指定的五个目录内,在目录内写入了五个文件,五个文件分别保存在五个目录里面
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
ntpdate ntp1.aliyun.com #将软件包
gfsrepo.zip 传至 opt 目录下
cd /opt
unzip gfsrepo.zip
mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
ls /test
echo "192.168.223.10 node1" >> /etc/hosts
echo "192.168.223.11 node2" >> /etc/hosts
echo "192.168.8223.12 node3" >> /etc/hosts
echo "192.168.223.13 node4" >> /etc/hosts
mount.glusterfs node1:dis-volume /test/dis
mount.glusterfs node1:stripe-volume /test/stripe
mount.glusterfs node1:rep-volume /test/rep
mount.glusterfs node1:dis-stripe /test/dis_stripe
mount.glusterfs node1:dis-rep /test/dis_rep
df -Th
cd /optdd
if=/dev/zero of=/opt/demo1.log bs=1M count=40dd
if=/dev/zero of=/opt/demo2.log bs=1M count=40dd
if=/dev/zero of=/opt/demo3.log bs=1M count=40dd
if=/dev/zero of=/opt/demo4.log bs=1M count=40dd
if=/dev/zero of=/opt/demo5.log bs=1M count=40dd #生成一个特定大小的文件给与/opt/demo*.log下,大小为1M,共处理40次
ls -lh /optcp demo* /test/discp demo* /test/stripe/cp demo* /test/rep/cp demo* /test/dis_stripe/cp demo* /test/dis_rep/tree /test/ #查看/test/的文件夹/文件的目录树
#关闭 glusterd 服务 node2 节点来模拟故障
systemctl stop glusterd
ls #在客户端上查看文件是否正常#查看卷数据是否正常ls /test/dis #测试分布式是否正常
ls /test/rep #测试复制带是否正常
ls /test/stripe #测试条带是否正常
ll /test/dis_stripe #测试分布式条带是否正常
ls /test/dis_rep #测试分布复制带是否正常
总结:有复制数据功能的卷数据比较安全
gluster volume list #查看GlusterFS卷
gluster volume info #查看所有卷的信息
gluster volume status #查看所有卷的状态
gluster volume stop dis-stripe #停止一个卷
gluster volume delete dis-stripe #删除一个卷#删除卷时,需要先停止卷,且信任池中不能有主机处于宕机状态,否则不能成功删除
gluster volume set dis-rep auth.allow 192.168.126.100 #设置卷的访问控制#仅拒绝,设置为IP地址为192.168.8.12的主机禁止访问dis-rep(分布式复制卷)
gluster volume set dis-rep auth.allow 192.168.8.*#仅允许,设置为192.168.8.0网段的所有IP地址都能访问dis-rep(分布式复制卷)
分布式条带复制卷(Distribute Stripe Replicavolume)三种基本卷的复合卷,通常用于类 Map Reduce 应用器——>存储数据到挂载目录中/data