centos7分布式部署minio文件集群

目录

一、分布式Minio概述

1.分布式Minio有什么好处?

2.同步集群时间

二、Minio分布式集群搭建

1、获取Minio

2、修改主机名及hosts

3、系统最大文件数修改

4、目录创建

5、集群启动文件

6、minio.service

7、上传二进制文件

8、权限修改

9、启动集群

10、代理集群

11、测试


一、分布式Minio概述

分布式Minio可以让你将多块硬盘(甚至在不同的机器上)组成一个对象存储服务。由于硬盘分布在不同的节点上,分布式Minio避免了单点故障。

1.分布式Minio有什么好处?

在大数据领域,通常的设计理念都是无中心和分布式。Minio分布式模式可以帮助你搭建一个高可用的对象存储服务,你可以使用这些存储设备,而不用考虑其真实物理位置。

数据保护

分布式Minio采用 erasure code(纠删码)来防范多个节点宕机和位衰减bit rot。

分布式Minio至少需要4个节点,使用分布式Minio自动引入了纠删码功能。

高可用

单机Minio服务存在单点故障,相反,如果是一个N节点的分布式Minio,只要有N/2节点在线,你的数据就是安全的。不过你需要至少有N/2+1个节点 Quorum 来创建新的对象。

例如,一个8节点的Minio集群,每个节点一块盘,就算4个节点宕机,这个集群仍然是可读的,不过你需要5个节点才能写数据。

限制

分布式Minio单租户存在最少4个盘最多16个盘的限制(受限于纠删码)。这种限制确保了Minio的简洁,同时仍拥有伸缩性。如果你需要搭建一个多租户环境,你可以轻松的使用编排工具(Kubernetes)来管理多个Minio实例。

注意,只要遵守分布式Minio的限制,你可以组合不同的节点和每个节点几块盘。比如,你可以使用2个节点,每个节点4块盘,也可以使用4个节点,每个节点两块盘,诸如此类。

一致性

Minio在分布式和单机模式下,所有读写操作都严格遵守read-after-write一致性模型。

2.同步集群时间

集群中的所有机器的时间不能超过3秒,首先需要安装ntp时间服务器,很简单

https://blog.csdn.net/ct_666/article/details/112598442

二、Minio分布式集群搭建

查看磁盘空间,选择适合的安装目录

df -h

生产环境最少4节点

节点              IP 数据目录
minio1     192.168.44.10    /home/minio/data
minio2     192.168.44.11    /home/minio/data
minio3     192.168.44.12    /home/minio/data
minio4     192.168.44.13    /home/minio/data

1、获取Minio

https://dl.min.io/server/minio/release/linux-amd64/minio

2、修改主机名及hosts

# 在对应的主机执行对应的语句
hostnamectl set-hostname minio1
hostnamectl set-hostname minio2
hostnamectl set-hostname minio3
hostnamectl set-hostname minio4
# 在所有主机执行
cat >> /etc/hosts <

3、系统最大文件数修改

# 所有主机执行
echo "*   soft    nofile  65535" >> /etc/security/limits.conf
echo "*   hard    nofile  65535" >> /etc/security/limits.conf

4、目录创建

启动脚本及二进制文件目录 run
数据存储目录 data
配置文件目录/etc/minio

# 所有主机执行
mkdir -p /home/minio/{run,data} && mkdir -p /etc/minio

5、集群启动文件

vim /home/minio/run/run.sh

MINIO_ACCESS_KEY:用户名,长度最小是5个字符
MINIO_SECRET_KEY:密码,密码不能设置过于简单,不然minio会启动失败,长度最小是8个字符
–config-dir:指定集群配置文件目录

# 所有主机添加
#!/bin/bash
export MINIO_ACCESS_KEY=minio
export MINIO_SECRET_KEY=admin#2020

/home/minio/run/minio server --config-dir /etc/minio \
http://192.168.44.10/home/minio/data \
http://192.168.44.11/home/minio/data \
http://192.168.44.12/home/minio/data \
http://192.168.44.13/home/minio/data \

6、minio.service

WorkingDirectory:二进制文件目录
ExecStart:指定集群启动脚本

# 所有主机执行
cat > /usr/lib/systemd/system/minio.service <

7、上传二进制文件

将下载好的minio二进制文件上传到/home/minio/run目录

8、权限修改

给所有涉及到的文件或目录添加权限

service文件
二进制文件
集群启动脚本

# 所有主机执行
chmod +x /usr/lib/systemd/system/minio.service && chmod +x /home/minio/run/minio && chmod +x /home/minio/run/run.sh

9、启动集群

# 所有主机执行
systemctl daemon-reload
systemctl start minio && systemctl enable minio
systemctl disable firewalld && systemctl stop firewalld 

# 当4台服务器都部署完毕后,查看状态如下:
[root@minio1 conf]# systemctl status minio
● minio.service - Minio service
   Loaded: loaded (/usr/lib/systemd/system/minio.service; enabled; vendor preset: disabled)
   Active: active (running) since 三 2021-01-13 16:07:08 CST; 9h ago
     Docs: https://docs.minio.io/
 Main PID: 6196 (run.sh)
   CGroup: /system.slice/minio.service
           ├─6196 /bin/bash /home/minio/run/run.sh
           └─6221 /home/minio/run/minio server --config-dir /etc/minio http://192.168.44.10/home/minio/data http://192.168.44.11/home/minio/data http://192.168.44.12/home/minio/data http://192.168.44.13/hom...

1月 13 18:19:02 minio1 run.sh[6196]: Endpoint:  http://192.168.44.10:9000  http://127.0.0.1:9000
1月 13 18:19:02 minio1 run.sh[6196]: Browser Access:
1月 13 18:19:02 minio1 run.sh[6196]: http://192.168.44.10:9000  http://127.0.0.1:9000
1月 13 18:19:02 minio1 run.sh[6196]: Object API (Amazon S3 compatible):
1月 13 18:19:02 minio1 run.sh[6196]: Go:         https://docs.min.io/docs/golang-client-quickstart-guide
1月 13 18:19:02 minio1 run.sh[6196]: Java:       https://docs.min.io/docs/java-client-quickstart-guide
1月 13 18:19:02 minio1 run.sh[6196]: Python:     https://docs.min.io/docs/python-client-quickstart-guide
1月 13 18:19:02 minio1 run.sh[6196]: JavaScript: https://docs.min.io/docs/javascript-client-quickstart-guide
1月 13 18:19:02 minio1 run.sh[6196]: .NET:       https://docs.min.io/docs/dotnet-client-quickstart-guide
1月 13 18:19:02 minio1 run.sh[6196]: Waiting for all MinIO IAM sub-system to be initialized.. lock acquired

10、代理集群

生产环境需要使用Nginx将集群地址进行代理,对外统一入口。因为这里将nginx部署在192.168.44.10上,所以端口不能再使用9000,使用的9001端口,默认采用负载均衡轮巡机制,对4个地址平均转发。

# 配置nginx将集群代理端口映射到9001
upstream minio{
        server 192.168.44.10:9000;
        server 192.168.44.11:9000;
        server 192.168.44.12:9000;
        server 192.168.44.13:9000;
}
server {
        listen 9001;
        server_name minio;
        location / {
                proxy_pass http://minio;
                proxy_set_header Host $http_host;
                client_max_body_size 1000m;
        }
}

11、测试

浏览器访问minio集群代理地址+9001端口,用户名密码为上文中启动文件run.sh中我们设置的

:9001

这种部署方式,可以有一台机器的容错。

宕机=1时,可读可写,宕机=2时,可读不可写,宕机>2时,集群不可用

你可能感兴趣的:(MinIO,分布式存储,linux)