目录
Kubernetes概述
什么是Kubernetes?
为什么需要K8S?
K8S的特性
Kubernetes 集群架构与组件
K8S工作流程
Kubernetes的核心组件
Master组件
Kube-apiserver
Kube-controller-manager
Kube-scheduler
配置存储中心 — etcd
Node组件
Kubelet
Kube-Proxy
docker 或者 rocket
Kubernetes 核心概念
Pod
Pod 控制器
Label
Label 选择器(Label selector)
Service
Ingress
Name
Namespace
总结
master节点
worker node节点
Kubernetes 是一个可移植、可扩展的开源平台,用于管理容器化的工作负载和服务,可促进声明式配置和自动化。 Kubernetes 拥有一个庞大且快速增长的生态,其服务、支持和工具的使用范围相当广泛。
Kubernetes 这个名字源于希腊语,意为“舵手”或“飞行员”。k8s 这个缩写是因为 k 和 s 之间有八个字符的关系。 Google 在 2014 年开源了 Kubernetes 项目。 Kubernetes 建立在Google 大规模运行生产工作负载十几年经验的基础上, 结合了社区中最优秀的想法和实践。
参考文献官网: Kubernetes 文档 | Kubernetes
试想下传统的后端部署办法:把程序包(包括可执行二进制文件、配置文件等)放到服务器上,接着运行启动脚本把程序跑起来,同时启动守护脚本定期检查程序运行状态、必要的话重新拉起程序。
设想一下,如果服务的请求量上来,已部署的服务响应不过来怎么办?传统的做法往往是,如果请求量、内存、CPU超过阀值做了告警,运维人员马上再加几台服务器,部署好服务之后,接入负载均衡来分担已有服务的压力。 这样问题就出现了:从监控告警到部署服务,中间需要人力介入!那么,有没有办法自动完成服务的部署、更新、卸载和扩容、缩容呢? 而这就是K8S要做的事情:自动化运维管理容器化(Docker)程序。
K8S是Google开源的容器集群管理系统,在Docker等容器技术的基础上,为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能,提高了大规模容器集群管理的便捷性。其主要功能如下:
使用Docker 等容器技术对应用程序包装(package)、实例化(instantiate)、运行(run)。
以集群的方式运行、管理跨机器的容器。以集群的方式运行、管理跨机器的容器。
解决Docker 跨机器容器之间的通讯问题。解决Docker 跨机器容器之间的通讯问题。
K8S的自我修复机制使得容器集群总是运行在用户期望的状态。、
弹性伸缩:使用命令、UI或者基于CPU使用情况自动快速扩容和缩容应用程序实例,保证应用业务高峰并发时的高可用性;业务低峰时回收资源,以最小成本运行服务。
自我修复:在节点故障时重新启动失败的容器,替换和重新部署,保证预期的副本数量;杀死健康检查失败的容器,并且在未准备好之前不会处理客户端请求,确保线上服务不中断。
服务发现和负载均衡:K8S为多个容器提供一个统一访问入口(内部IP地址和一个DNS名称),并且负载均衡关联的所有容器,使得用户无需考虑容器IP问题。
自动发布(默认滚动发布模式)和回滚:K8S采用滚动策略更新应用,一个更新一个Pod,而不是同时删除所有的Pod,如果更新过程中出现问题,将回滚更改,确保升级不收影响业务。
集中化配置管理和密钥管理:管理机密数据和应用程序配置,而不需要把敏感数据暴露在镜像里,提高敏感数据安全性,并可以将一些常用的配置存储在K8S中,方便应用程序使用。
存储编排:支持外挂存储并对外挂存储资源进行编排,挂载外部存储系统,无论是来自本地存储,公有云(如:AWS),还是网络村存储(如:NFS、Glusterfs、Ceph)都作为集群资源的一部分使用,极大提高存储使用灵活性。
任务批量处理运行:提供一次性任务,定时任务,满足批量数据处理和分析的场景。
K8S 是属于主从设备模型(Master-Slave架构),即有Master节点复制集群的调度、管理和运维,Slave节点是集群的运算工作负载节点。在K8S中,主节点一般被称为 Master 节点,而从节点则被称为 Worker Node 节点,每个 Node 都会被 Master 分配一些工作负载。
Master组件可以在群集中的任何计算机上运行,但是 建议Master节点占据一个独立的服务器,因为Master是整个集群的大脑,如果Master所在的节点宕机或者不可用,那么所有的控制命令都将会失效。除了Master,在K8S集群中的其他机器被称为Worker Node 节点,当某个 Node宕机时,其上的工作负载会被Master自动转移到其他节点上去。
用户要发送创建pod请求,请求会被发送到APIserver当中,APIserver会接受用户请求,把信息写入到etcd数据库当中,再去找controller-manager创建pod,controller-manager会通过APIserver读取用户创建pod的预设模板,然后再通过APIserver去找scheduler去调度pod,scheduler会根据两大调度策略预选策略过滤掉不符条件的node节点和优选策略去给符合条件的node节点进行打分算优先级,取优先级最高的node节点作为最终要被调度的节点,确定了要被调度的节点后,会去到APIserver当中找到对应节点的Kubelet去创建pod,Kubelet会找到对应节点的容器引擎进行交互来创建pod,创建好pod之后,Kubelet会收集当前节点pod运行状态和使用情况返回给APIserver并保存下来,如果pod副本数量不满足期望的状态,controller-manager会通过APIserver读取到相关的信息,controller-manager为了去维护pod副本的数量,会让Kubelet在去创建pod直到满足它的期望条件,希望pod会被外界用户去访问,使用Kube-Proxy创建相关的网络规则暴露出去供web用户去访问pod提供的服务
用于暴露Kubernetes API,任何资源请求或调用操作都是通过 kube-apiserver 提供的接口进行。以 HTTP Restful API 提供接口服务,所有对象资源的增删改查和监听操作都交给API Server 处理后再提交给Etcd 存储。
可以理解为 API Server 是K8S的请求入口服务。API Server 负责接受K8S所有请求(来自UI界面或者CLI命令行工具),然后根据用户的具体请求,去通知其他组件干活。可以说API Server 是K8S集群架构的大脑。
运行管理控制器, 是K8S集群中处理常规任务的后台线程,是K8S集群里所有资源对象的自动化控制中心。在K8S集群中,一个资源对应一个控制器,而Controller manager 就是复制管理这些控制器的。
由一系列控制器组成,通过 API Server 监控整个集群的状态,并确保集群处于预期的工作状态,比如当某个Node意外宕机时,Controller Manager 会及时发现并执行自动化修复流程,确保集群始终处于预期的工作状态。
这些控制器主要包括:
Node Controller(节点控制器):负责在节点出现故障时发现和响应。
Replication Controller(副本控制器):负责保证集群中一个RC(资源对象 Replication Controller)所关联的Pod副本始终保持预设值。可以理解成确保集群中有且有N个Pod实例,N是RC中定义的Pod副本数量。
Endpoints Controller(端点控制器):填充端点对象(即连接Service和Pods),负责监听Service和对应的Pod副本的变化,可以理解端点是一个服务暴露出来的访问点,如果需要访问一个服务,则必须知道它的endpoint。
Service Account & Token Controllers(服务账户和令牌控制器):为新的命名空间创建默认账户和API访问令牌。
ResourceQuota Controller(资源配额控制器):确保指定的资源对象在任何时候都不会超量占用系统物理资源。
Namespqce Controller(命名空间控制器):管理namespace的生命周期。
Service Controller(服务控制器):属于K8S集群与外部的云平台之间的一个接口控制器。
是负责资源调度的进程,根据调度算法为新创建的Pod选择一个合适的Node节点。
可以理解成K8S所有的Node节点的调度器。当用户要部署服务时,Scheduler 会根据调度算法选择最合适的Node节点来部署Pod。
预算策略(predicate)
优选策略(priorities)
API Server 接收到请求创建一批Pod,API Server 会让 Controller-manager 按照所预设的模板去创建Pod,Controller-manager会通过API Server 去找 Scheduler 为新创建的Pod 选择最适合的Node 节点。比如运行这个Pod 需要2C4G的资源,Scheduler会通过预选策略过滤掉不满足策略的 Node节点。Node 节点中还剩多少资源是通过汇报给 API Server 存储在etcd 里,API Server会调用一个方法找到etcd 里所有 Node 节点的剩余资源,再对比Pod 所需要的资源,如果某个Node节点的资源不足或者不满足预选策略的条件则无法通过预选。预选阶段筛选出的节点,在优选阶段会根据优先策略为通过预选的Node节点进行打分排名,选择得分最高的Node。例如,资源越富裕、负载越小的Node可能具有越高的排名。
K8S的存储服务。etcd 是分布式键值存储系统,存储了 K8S 的关键配置和用户配置,K8S 中仅API Server 才具备读写权限,其他组件必须通过API Server 的接口才能读写数据。
Node 节点的监视器,以及与Master 节点的通讯器,Kubelet 是 Master 节点安插在 Node 节点上的“眼线”,它会定时向 API Server 汇报自己Node 节点上运行服务的状态,并接受来自Master 节点的指示采取调整措施。
从Master 节点获取自己节点上 Pod 的期望状态(比如运行什么容器、运行的副本数量、网络或者存储如何配置等),直接跟容器引擎交互实现容器的生命周期管理,如果自己节点上 Pod 的状态与期望状态不一致,则调用对应的容器平台接口(即 Docker 的接口) 达到这个状态。
管理镜像和容器的清理工作,保证节点上镜像不会占满磁盘空间,退出的容器不会占用太多资源。
总结:
在Kubernetes集群中,在每个Node(又称Worker Node)上都会启动一个kubelet服务进程。该进程用于处理MasterI下发到本节点的任务,管理Pod 及Pod中的容器。每个kubelet进程都会在API Server上注册节点自身的信息,定期向Master汇报节点资源的使用情况,并通过cAdvisor监控容器和节点资源。
在每个 Node 节点上实现 Pod 网络代理,是 Kubernetes Service 资源的载体,负责维护网络规则和四层负载均衡工作,负责写入规则至 Iptables、ipvs 实现服务映射访问的。
Kube-Proxy 本身不是直接给 Pod 提供网络的,Pod 的网络是由 Kubelet 提供的,Kube-Proxy 实际上维护的是虚拟的 Pod 集群网络。Kube-apiserver 通过监控 Kube-Proxy 进行对 Kubernetes Service 的更新和端点的维护。
在K8S 集群中微服务的负载均衡是由 kube-Proxy 实现的。kube-proxy 是K8s 集群内部的负载均衡器,它是一个分布式代理服务器,在K8S 的每个节点上都会运行一个 Kube-Proxy组件。
容器引擎,运行容器,负责本机的容器创建和管理工作。现在基本上都是用的是docker
Kubernetes 包含多种类型的资源对象:Pod、Label、Service、Replication Controller 等。
所有的资源对象都可以通过Kubernetes 提供的 Kubectl 工具进行增删改查等操作,并将其保存在 etcd 中持久化存储。
Kubernetes其实是一个高度自动化的资源控制系统,通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异,来实现自动控制和自动纠错等高级功能。
Pod是 Kubernetes 创建或部署的最小/最简单的基本单位,一个 Pod 代表集群上正在运行的一个进程。可以把 Pod 理解成豌豆荚,而同一个 Pod 内的每一个容器就是一颗颗豌豆。
一个 Pod 由一个或多个容器组成,Pod 中容器共享网络、存储和计算资源,在同一台 Docker 主机上运行。 一个 Pod 里可以运行多个容器,又叫做边车模式(SideCare)模式,而在生产环境中一般使用单个容器或者具有强关联互补的多个容器组成一个Pod。
同一个 Pod 之间和容器可以通过 localhost 互相访问,并且可以挂载 Pod 内所有的数据卷;但是不同 Pod 之间的容器不能用 localhost 访问,也不能挂载其他 Pod 的数据卷。
Pod 控制器是 Pod 启动的一种模板,用来保证在 K8S 里启动的 Pod 应始终按照用户的预期运行(副本数、生命周期、健康状态检查等)。
K8S 内提供了众多的 Pod 控制器,常用的有以下几种:
Deployment:无状态应用部署。Deployment 的作用是管理和控制 Pod 和 ReplicaSet,管控它们运行在用户期望的状态中。
Replicaset:确保预期的 Pod 副本数量。ReplicaSet 的作用就是管理和控制 Pod,管控它们好好干活。但是,ReplicaSet 受控于 Deployment。
可以理解为 Deployment 就是总包工头,主要负责监督底下的工人 Pod 干活,确保每时每刻都有用户要求数量的 Pod 在工作,如果一旦发现了某个工人 Pod 不行了,就赶紧新拉一个 Pod 过来替换它。而ReplicaSet就是包工头手底下的小包工头。 从 K8S 使用者角度来看,用户只需要关系Deployment 而不操心 ReplicaSet 的前身,官方推荐用 Deployment 取代 Replication Controller 来部署服务。
Daemonset:确保所有节点运行同一类Pod,保证每个节点上都有一个此类的 Pod 运行,通常用于实现系统级后台任务。
Statefulset:有状态应用部署。
Job:一次性任务。根据用户的设置,Job 管理的Pod 把任务成功完成就自动退出了。
Cronjob:周期性计划任务。
Label 标签,是K8S 特色的管理方式,便于分类管理资源对象。
Label 可以附加到各种资源对象上,例如:Node、Pod、Service、RC 等,用于关联对象、查询和筛选。
一个 Label 是一个 key-value 的键值对,其中 key 与 value 由用户自己指定。
一个资源对象可以定义任意数量的Label,同一个 Label 也可以被添加倒任意数量的资源对象中,也可以在对象创建后动态添加或者删除。
可以通过给指定的资源对象捆绑一个或多个不同的 Label,来实现多维度的资源分组管理功能。
与 Label 类似的,还有 Annotation (注释)。 区别在于有效的标签值必须为63个字符或更少,并且必须为空或字母数字([a-z0-9A-Z])开头和结尾,中间可以包含横杠(-)、下划线()、点(.)和字母或者数字。注释值则没有字符长度限制。
给某个资源对象定义一个 Label,就相当于给它打了一个标签,随后可以通过标签选择器(Label selector)查询和筛选拥有某些 Label 的资源对象。
标签选择器目前有两种:基于等值关系(等于、不等于)和 基于集合关系(属于、不属于、存在)。
在 K8S 的集群里,虽然每个 Pod 会被分配一个单独的IP地址,但由于Pod是有生命周期的(它们可以被创建,而且销毁之后不会再启动),随时可能会因为业务的变更,导致这个IP地址也会随着Pod 的销毁而消失。
而Service 就是用来解决这个问题的核心概念。
K8S 中的 Service 并不是我们常说的“服务"的含义,而更像是网关层,可以看作一组提供相同服务的 Pod 的对外访问接口、流量均衡器
Service 作用于哪些Pod 是通过标签选择器来定义的。
在K8S 集群中,Service 可以看作一组提供相同服务的Pod 的对外访问接口。客户端需要访问的服务就是Service 对象。每个Service 都有一个固定的虚拟ip(这个ip也被称为Cluster IP),自动并且动态地绑定后端的 Pod, 所有的网络请求直接访问 Service 的虚拟ip,Service会自动向后端做转发。
Service 除了提供稳定的对外访问方式之外,还能起到负载均衡(Load Balance) 的功能,自动把请求流量分布到后端所有的服务上,Service可以做到对客户透明地进行水平扩展(scale)。
而实现service这一功能的关键,就是kube-proxy。 kube-proxy 运行在每个节点上,监听API Server中服务对象的变化,
可通过以下三种流量调度模式: userspace (废弃)、iptables (濒临废弃)、ipvs (推荐,性能最好)来实现网络的转发。
Service是K8S服务的核心,屏蔽了服务细节,统一对外暴露服务接口,真正做到了“微服务”。比如我们的一个服务A,部署了3个副本,也就是3个Pod;对 于用户来说,只需要关注一个 Service 的入口就可以,而不需要操心究竞应该请求哪一个Pod。
优势非常明显:一方面外部用户不需要感知因为Pod.上服务的意外崩溃、K8S重新拉起Pod而造成的IP变更,外部用户也不需要感知因升级、变更服务带来的Pod替换而造成的IP变化。
Service 主要负责K8S集群内部的网络拓扑,那么集群外部怎么访问集群内部呢?这个时候就需要Ingress了。Ingress 是整个 K8S 集群的接入层,负责集群内外通讯。
Ingress是K8S集群里工作在OSI网络参考模型下,第7层的应用,对外暴露的接口,典型的访问方式是http/https。Service只能进行第四层的流量调度,表现形式是ip+port。 Ingress 则可以调度不同业务域、不同URL访问路径的业务流量。
由于K8S 内部,使用“资源”来定义每一种逻辑概念(功能),所以每种“资源”,都应该有自己的“名称”。
“资源”有api版本(apiversion) 、类别(kind) 、元数据(metadata) 、定义清单(spec) 、状态(status) 等配置信息。
“名称”通常定义在“资源”的“元数据”信息里。在同一个namespace 空间中必须是唯一的。
随着项目增多、人员增加、集群规模的扩大,需要一种能够逻辑.上隔离K8S内各种“资源”的方法,这就是Namespace。Namespace是为了把一个K8S集群划分为若千个资源不可共享的虚拟集群组而诞生的。不同Namespace 内的“资源”名称可以相同,相同Namespace 内的同种“资源",“名称”不能相同。
合理的使用K8S的Namespace,可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。K8S里默认存在的Namespace 有: default、 kube-system、 kube-public 等。
查询K8S里特定 “资源” 要带上相应的 Namespace
容器编排
docker-compose 单机编排
容器集群编排 docker swarm mesos+marathon kubernetes
apiserver:所有服务访问的统一入口
crontroller manager:负责根据预设模块创建pod,维持pod等资源的副本期望数目 容器是提供服务的最小单元 Pod是k8s服务调度的最小单元
scheduler:负责调度pod,通过预选策略、优选策略选择最适合的node节点分配Pod etcd:分布式键值对数据库,负责存储k8s集群的重要信息(持久化)
kubelet:跟apiserver通信汇报当前node节点上的资源使用情况和状态,接受apiserver的指令跟容器引擎交互实现容器的生命周期管理
kube-proxy:在Node节点上实现pod的网络代理,维护网络规则和四层负载均衡工作,负责写入规则到iptables或ipvs实现服务的映射访问
容器运行时(容器引擎)docker:运行容器,负责本机的容器创建和管理工作