自建Kubernetes高可用

Kubernetes作为容器应用的管理平台，通过对pod的运行状态进行监控，并且根据主机或容器失效的状态将新的pod调度到其他node上，实现了应用层的高可用。

针对kubernetes集群，高可用性还包含以下两个层面的考虑：

• etcd存储的高可用
• master节点的高可用

架构图：

图片.png

etcd是集群中的一个十分重要的组件,用于保存集群所有的网络配置和对象的状态信息。

在kubernetes中，master扮演着总控中心的角色，主要有三个服务apiserver、controller-manager、scheduler，这三个服务通过不断与node节点上的kubelet、kube-proxy进行通信来维护整个集群的健康工作状态，如果master的服务无法访问到某个node，则会将该node标记为不可用，不再向其调度pod。

Master的三个组件都以容器的形式启动，启动他们的基础工具是kubelet，他们都以static pod的形式启动，并由kubelet进行监控和自动启动。而kubelet自身的自启动由systemd完成。

APIserver作为集群的核心，负责集群各功能模块之间的通信，集群内的各个功能模块通过apiserver将信息存入etcd，当需要获取和操作这些数据时，则通过apiserver提供的rest接口来实现，从而实现各模块之间的信息交互。

APIserver最主要的rest接口是资源对象的增删查改，除此之外，它还提供了一类很特殊的rest接口KubernetesProxyAPI接口，这类接口的作用是代理rest请求，即apiserver把收到的rest请求转发到某个node上的kubelet守护进程的rest端口上，由该kubelet进程负责响应。在kubernetes集群之外访问某个pod容器的服务（http服务）时，可以用proxyAPI实现，这种场景多用于管理目的。

每个node节点上的kubelet每隔一个时间周期，就会调用一次apiserver的rest接口报告自身状态，apiserver接收到这些信息后，将节点状态信息更新到etcd。此外，kubelet也通过apiserver的watch接口监听pod信息，如果监听到新的pod副本被调度绑定到本节点，则执行pod对应的容器的创建和启动逻辑；如果监听到pod对象被删除，则删除本节点上的响应的pod容器；如果监听到修改pod信息，则kubelet监听到变化后，会相应地修改本节点的pod容器。

ControllerManager作为集群内部的管理控制中心，负责集群内的node、pod副本、endpoint、namespace、serviceaccount、resourcequota等的管理，当某个node意外宕机时，ControllerManager会及时发现此故障并执行自动化修复流程，确保集群始终处于预期的工作状态。ControllerManager内部包含多个controller，每种controller都负责具体的控制流程。

ControllerManager中的NodeController模块通过apiserver提供的watch接口，实时监控node的信息，并做相应处理。Scheduler通过apiserver的watch接口监听到新建pod副本信息后，它会检索所有符合该pod要求的node列表，开始执行pod调度逻辑，调度成功后将pod绑定到目标节点上。

一般来说，智能系统和自动系统通常会通过一个被称为操作系统的机构来不断修正系统的工作状态。在kubernetes集群中，每个controller都是这样一个操作系统，它们通过APIserver提供的接口实时监控整个集群里的每个资源对象的当前状态，当发生各种故障导致系统状态发生变化时，会尝试着将系统状态从“现有状态”修正到“期望状态”。

Scheduler的作用是将待调度的pod，包括通过apiserver新创建的pod及rc为补足副本而创建的pod等，通过一些复杂的调度流程计算出最佳目标节点，然后绑定到该节点上。