GlusterFS in CentOS 6.5的实现和配置

• Gluster的几种实现
  • 1.striped volume 条带卷的实现
  • 如左图，条带卷内部的每一个文件都被分成4份用来保存，称为条带式存储。
  • 2、Replication
  • 如左图，条带卷内部的每一个文件在不同的server中各存一份。
  • 3、Distributed Volume
  • 如左图，条带卷内的各个文件被分散到各节点进行存储。
  • 4、DHT
  • 
• 安装Gluster
  • 安装环境，三个节点分别是
  • 172.16.24.100 node1.libincla.com
  • 172.16.24.101 node2.libincla.com
  • 172.16.24.102 node3.libincla.com
  • 在此的环境下已经准备好了Gluster需要的rpm包
  • 这里使用的如下方式

    lftp 172.16.0.1:/pub/Sources/6.x86_64/glusterfs> cd ..
    lftp 172.16.0.1:/pub/Sources/6.x86_64> mirror glusterfs
    Total: 2 directories, 20 files, 0 symlinks                                                    
    New: 20 files, 0 symlinks
    10241416 bytes transferred in 2 seconds (4.07M/s)
    lftp 172.16.0.1:/pub/Sources/6.x86_64>

  • 因为这个目录内含有repodata，可以编辑新的yum源来指向这个repodata。
  • 如：[root@node1 glusterfs]# vim /etc/yum.repos.d/glusterfs.repo

    [glfs]
    name=glfs
    baseurl=file:///root/glusterfs/
    gpgcheck=0

  • 使用yum repolist，列出repo查看是否生效
  • 果然能够被读取出来。
  • [root@node1 glusterfs]# yum install glusterfs-server 安装gluster的服务器包
  • 这些需要依赖的包
  • 安装完成以后，将目录分别scp到其他两个节点上去，此处不再赘述。
  • 如：

    [root@node1 ~]# scp -r glusterfs/ node2:/root
    The authenticity of host 'node2 (172.16.24.101)' can't be established.
    RSA key fingerprint is a4:8b:0f:37:a4:a0:31:59:6d:bb:56:52:23:f1:fc:4c.
    Are you sure you want to continue connecting (yes/no)? yes
    Warning: Permanently added 'node2,172.16.24.101' (RSA) to the list of known hosts.
    root@node2's password:
    glusterfs-libs-3.5.2-1.el6.x86_64.rpm                                                                              100%  250KB 250.2KB/s   00:00   
    glusterfs-extra-xlators-3.5.2-1.el6.x86_64.rpm                                                                     100%   46KB  45.6KB/s   00:00   
    glusterfs-devel-3.5.2-1.el6.x86_64.rpm                                                                             100%  122KB 122.4KB/s   00:00   
    glusterfs-server-3.5.2-1.el6.x86_64.rpm                                                                            100%  563KB 563.3KB/s   00:00   
    glusterfs-fuse-3.5.2-1.el6.x86_64.rpm                                                                              100%   92KB  92.3KB/s   00:00   
    glusterfs-3.5.2-1.el6.x86_64.rpm                                                                                   100% 1241KB   1.2MB/s   00:00   
    be1304a9b433e6427e2bbb7e1749c5005d7454e8f7a6731da1217e2f45a2d1da-primary.sqlite.bz2                                100%   12KB  11.7KB/s   00:00   
    40b9dab11d26eb746c553eb57e6aa60d0ba9d1b66a935cb04c782815c05bf7c3-primary.xml.gz                                    100% 3785     3.7KB/s   00:00   
    repomd.xml                                                                                                         100% 2985     2.9KB/s   00:00   
    da5ee38acf32e0f9445a11d057b587634b874ce5a6dc3b900512f6afc133351f-filelists.xml.gz                                  100%   11KB  10.6KB/s   00:00   
    4e933e2701d32eac68670eeb53104b107bc8eac9879a199a1050852d7cf5994e-other.sqlite.bz2                                  100% 4417     4.3KB/s   00:00   
    5a4290490160367cedd0d349fb8719fb7485d6cd1c7fb03e0a9caace98a5610c-other.xml.gz                                      100% 1475     1.4KB/s   00:00   
    f9d4a1d6bfb573f34706f9cd84767959ec15599856f85b9d07a9310fda96b140-filelists.sqlite.bz2                              100%   18KB  17.6KB/s   00:00   
    glusterfs-rdma-3.5.2-1.el6.x86_64.rpm                                                                              100%   49KB  49.5KB/s   00:00   
    glusterfs-geo-replication-3.5.2-1.el6.x86_64.rpm                                                                   100%  155KB 155.0KB/s   00:00   
    glusterfs-regression-tests-3.5.2-1.el6.x86_64.rpm                                                                  100%  114KB 114.1KB/s   00:00   
    glusterfs-api-3.5.2-1.el6.x86_64.rpm                                                                               100%   69KB  69.0KB/s   00:00   
    glusterfs-api-devel-3.5.2-1.el6.x86_64.rpm                                                                         100%   29KB  29.3KB/s   00:00   
    glusterfs-cli-3.5.2-1.el6.x86_64.rpm                                                                               100%  122KB 122.5KB/s   00:00   
    glusterfs-debuginfo-3.5.2-1.el6.x86_64.rpm                                                                         100% 7095KB   6.9MB/s   00:01

  • 各节点分别创建所需要的目录，这里就叫gdata代表glusterfs的目录。
  • mkdir -pv /gdata/brick
  • 然后就开始在各节点启动服务
  • service glusterd start
  • 然后ss  -tnlp查看哪个端口监听？

    [root@node1 ~]# ss -ntlp |  grep glusterd
    LISTEN     0      128                       *:24007                    *:*      users:(("glusterd",35476,9))
    [root@node1 ~]#

       
  • 24007这个端口监听。
  • 可以用gluster peer probe 可以探测各节点。
  • [root@node1 ~]# gluster peer probe node2
    peer probe: success.
    [root@node1 ~]# gluster peer probe node3
    peer probe: success.
    [root@node1 ~]#

    显示都是成功的。

  • 另外还可以使用命令 gluster peer status查看各状态

    [root@node1 ~]# gluster peer status
    Number of Peers: 2

    Hostname: node2
    Uuid: 01f4c256-21a7-4b9b-a9ef-735182618bc6
    State: Peer in Cluster (Connected)

    Hostname: node3
    Uuid: 70cd5f4e-e3db-401b-8849-ced76ac3f6c8
    State: Peer in Cluster (Connected)

• 准备工作已然完成，需要创建GlusterFS的卷
  • 分别在各节点上创建gv0
  • mkdir /usr/gdata/brick/gv0 -pv
  • 在任意节点上使用命令

    [root@node1 ~]# gluster volume create gv0 replica 3 node1:/data/brick/gv0/ node2:/data/brick/gv0/ node3:/data/brick/gv0/ force
    volume create: gv0: success: please start the volume to access data

  • 这里我加了一个force，这里提醒大家如果想做Glusterfs最好在每个节点都提前准备好一个空闲的磁盘。
  • 此时使用Gluster volume start gv0启动卷[root@node1 ~]# gluster volume start gv0
    volume start: gv0: success
    
  • 这里使用mount命令，随便找一个主机目录挂到此节点，看看效果。

    [root@node1 ~]# mount -t glusterfs node2:/gv0 /mnt/gluster/
    [root@node1 ~]#

    随便存个文件试试

    

    

    

    使用命令，能够看到gv0信息

    [root@node1 gluster]# gluster volume info gv0
    Volume Name: gv0
    Type: Replicate
    Volume ID: 44a87154-fc05-449b-bc98-266bc7673b23
    Status: Started
    Number of Bricks: 1 x 3 = 3
    Transport-type: tcp
    Bricks:
    Brick1: node1:/data/brick/gv0
    Brick2: node2:/data/brick/gv0
    Brick3: node3:/data/brick/gv0
    [root@node1 gluster]#

• 现在我们三个节点等于都有了此设备的副本，如果再其中一个节点存储数据，其他节点应该就能收到同样的数据。