1 概述
备注:本文主要结合自己的学习笔记,以及参考博客集群(cluster)原理(转)整理而成。
集群(cluster)就是一组计算机,他们作为整体向用户提供一组网络资源。这些单个的计算机系统就是集群的节点(node)。一个理想的集群是,用户从不会意识到集群系统底层的节点,在他/她们看来,集群是一个系统,而非多个计算机系统。并且集群系统的管理员可以随意的增加和删除集群系统的节点。
2Linux Cluster类型
a)高可用性(High Availability)集群
HA集群致力于提供高度可靠的服务,避免SPOF单点失败(single Point Of failure)的问题。就是利用集群系统的容错性对外提供7*24小时不间断的服务,如高可用的文件服务器、数据库服务等关键应用。
b)负载均衡(Load Balancing)集群:
使任务可以在集群中尽可能平均的分摊不同计算机处理,充分利用集群的处理能力,提高对任务的处理效率。在实际应用中这几种集群类型可能混合使用,以提供更高稳定的服务,如在一个使用网络流量负载均衡的集群中,就会包含高可用的网络文件系统、高可用的网络服务。
其中负载均衡服务器的高可用性是指为了屏蔽负载均衡服务器失效,需要建立一个备份机。主服务器和备份机上都运行High Availability监控程序,通过传送诸如“I am alive”这样的信息来监控对方的运行状况。当备份机不能在一定的时间内收到这样的信息时,它就接管主服务器IP并继续提供服务;当备份管理器又从主管理器收到“I am alive”这样的信息时,他就释放IP地址,这样的主管理器就开开始再次进行集群管理的工作了。为在主服务器失效的情况下系统能正常工作,我们在主、备份机之间实现负载集群系统配置信息的同步和备份,保持两者系统的基本一致。
.LB Cluster分类
四层:lvs,nginx(stream),haproxy(modetcp)
七层:基于http,如nginx(http),haproxy(mode http), httpd(apache)...
c)性能计算(High Perfervidmance Computing)集群
HPC集群,也称为计算集群。在这种集群运行的是专门开发的并行应用程序,它可以把一个问题的数据分不到多台计算机上,利用这些计算机的共同资源来完成任务,从而可以解决单机不能胜任的工作(如果问题规模太大,单机计算速度太慢)。
这类集群致力于提供了单个计算机所不能提供的强大的计算能力。如天气预报、石油勘探与油藏模拟、分子模拟、生物计算等。
3 集群的优点
a)高扩展性
b)高可用性HA:集群中的一个节点失效,它的任务可传递给其他节点。可以防止单点失效
c)高性能:负载平衡集群允许系统同时接入更多的用户
d)高性能价比:可以采用廉价的复合工业标准的硬件来构造高性能的系统
4 集群分类
4.1基于软硬件分类
.硬件:
F5 Big-IP
Citrix Netscaler
A10 A10
.软件:
lvs:LinuxVirtual Server,不能识别应用层数据
nginx:支持四层调度,也可以支持7层调度
haproxy:支持四层调度,也支持7层调度
应用层的调度器,需要对发过来的请求进行解开数据包,然后再封装。有一个问题是,socket一台机器上只能是65536个,并发请求太多,主机将不能正常提供请求。解决方案是把后台服务拆分开,对服务进行分类。把不同的服务拆开,独立提供服务
ats:apachetraffic server,yahoo捐助
perlbal:Perl编写
pound
4.2基于工作的协议层次划分:
.传输层(通用):DPORT
LVS:
nginx:stream机制
haproxy:mode tcp机制
实际工作中,生产环境用nginx和haproxy进行调度
.应用层(专用):针对特定协议,自定义的请求模型分类
proxy server:
http:nginx,httpd, haproxy(mode http), ...
fastcgi:nginx,httpd, ...
mysql:mysql-proxy,...
5 集群相关概念介绍
5.1 HA概念介绍
计算机系统的可用性(availability)是通过系统的可靠性(reliability)和可维护性(maintainability)来度量的。工程上通常采用平均无故障时间(MTBF:MeanTime Between Failure)来度量系统的可靠性,用平均恢复时间(MTTR:MeanTime To Restoration(repair))来度量系统的可维护性。于是可用性定义为:A=MTTF/(MTBF+MTTR)*100%。可用性百分比范围是(0,1),如99%,99.5%, 99.9%, 99.99%, 99.999%, 99.9999%。其中99.999%表示一年内允许5分钟的故障时间
系统故障:
硬件故障:设计缺陷、wear out(损耗)、自然灾害……
软件故障:设计缺陷
5.1.1 HA的容错备援运作过程
自动侦测(Auto-Detect)阶段 由主机上的软件通过冗余侦测线,经由复杂的侦听程序。逻辑判断,互相侦测对方运行情况,所检查的项目有:主机硬件(CPU和周边)、主机网络、主机操作系统、数据引擎以及其他应用程序、主机与磁盘阵列连线。为确保侦测的正确性,而防止错我的判断,可设定安全侦测时间、包括侦测时间间隔、侦测次数以调整安全系数,并且由主机的冗余通信连线,将所汇集的讯息记录下来,以供维护参考。
自动切换(Auto-Switch)阶段 某一主机如果确认对方故障,则正常主机继续进行原来的任务,还将依据各种容错备援模式接管预先设定的备援作业程序,并进行后续的程序以及服务。
自动恢复(Auto-Recovery)阶段 在正常主机代替故障机工作后,故障机可离线进行修复工作。在故障主机修复后,通过冗余通讯线与原来主机连线,自动切换回修复完成的主机上。整个回复过程完成有EDI-HA自动完成,亦可依靠预先配置,选择回复动作为半自动或不回复。
5.1.2 HA三种工作方式
a) 主从方式(非对称方式)
工作原理:主机工作,备机处于监控状况;当主机宕机时,备机接管主机的一切工作,待主机恢复正常后,按使用者的设定以自动或手动方式将服务切换到主机上运行,数据的一致性通过共享存储系统解决。
b) 双机双工方式(互备互援)
工作原理:两台主机同时运行各自的服务工作且互相检测情况,当任一台主机宕机时,另一台主机立即接管它的一切工作,保证工作实时,应用服务系统的关键数据存放在共享存储系统中。
c) 集群工作方式(多服务器互备方式)
工作原理:多台主机一起工作,各自运行一个或几个服务,各为服务定义一个或多个备用主机,当某个主机故障时,运行在其上的服务就可以被其它主机接管。
5.1.4 HA集群实现方案
keepalived: vrrp协议,和lvs配合使用。keepalive实现高可用,lvs实现调度。
ais:应用接口规范
heartbeat
cman+rgmanager(RHCS)
coresync_pacemaker
5.2会话保持:负载均衡(LB)
(1) session sticky:同一用户调度固定服务器
Source IP:LVS sh算法(对某一特定服务而言)
注意,基于源地址调度不太靠谱,因为可能IP经过NAT转换,该源IP后端可能有很多机器发起请求,如果将这些请求都集中调度到
同一台机器,可能会会后端该服务器造成较大的负担
Cookie:服务器分发给客户端的
cookie用来表示客户端的身份的。早期用重cookie,包含了所有的信息。
后来用轻cookie,主要有session的id.session是在服务器端的。
根据cookie的信息来决定分发给哪台机器上。cookie属于应用层的数据。因此要使用应用层的调度器,如Ngnix或haproxy
(2) session replication:每台服务器拥有全部session,如session multicastcluster
(3) session server:专门的session服务器,如Memcached,Redis
6高可用的实现
有如下6种方法实现高可用
1)共享存储(shared storage)
NAS:网络附属存储(NetworkAttached Storage),文件共享服务器
SAN:存储区域网络,(Storage Area Network),块级别的共享
2)网络分区(Networkpartition)
有以下两个方式:
a)法定人数(quorum):
with quorum:> total/2
without quorum: <= total/2
b)隔离设备:fence,有两种手段
当监测到有设备异常是,可以通过以下两个方法隔离异常设备
断电重启:STONITH = ShootingThe Other Node In The Head,
隔离资源:断开存储的连接
3)双节点集群(TWO nodes Cluster)
4)Failover:故障切换,即某资源的主节点故障时,将资源转移至其它节点的操作
5)Failback:故障移回,即某资源的主节点故障后重新修改上线后,将之前已转移至其它节点的资源重新切回的过程
6)HACluster实现方案:
有以下两个方案:
vrrp协议的实现:轻量级解决方案,如keepalived
ais:重量级的解决方案,应用接口规范完备HA集群,逻辑比较复杂。有三个解决方案
RHCS:Red Hat Cluster Suite红帽集群套件,完整解决方案
heartbeat
corosync