Kubernetes(k8s)的引入知识

kubernetes

K8S概述

作用

• 用于自动部署、扩展和管理"容器化(containerized)应用程序"的开源系统。
• 可以理解成K8S是负责自动化运维管理多个容器化程序（比如Docker）的集群，是一个生态极其丰富的容器编排框架工具。

由来

• K8S由google的Borg系统(博格系统，google内部使用的大规模容器编排工具)作为原型，后经GO语言延用Borg的思路重写并捐献给CNCF基金会开源。

含义:

• 词根源于希腊语的舵手、飞行员

• 官网:

  https://kubernetes.io

• GitHub:

  https://github.com/kubernetes/kubernetes

为什么使用K8S

• 试想下传统的后端部署办法:把程序包（包括可执行二进制文件、配置文件等）放到服务器上，接着运行启动脚本把程序跑起来，同时启动守护脚本定期检查程序运行状态、必要的话重新拉起程序。

• 如果服务的请求量上来，已部署的服务响应不过来时，传统的做法是如果请求量、内存、cpu超过阈值做了告警，运维人员马上再加几台服务器，部署好服务之后，接入负载均衡来分担已有服务的压力。

  这样问题就出现了:从监控告警到部署服务，中间需要人力介入。那么需要办法自动完成服务的部署、更新、卸载和扩容、缩容呢。

  而这就是K8S要做的事情：自动化运维管理容器化（Docker）程序。

• K8s的目标是让部署容器化应用简单高效。

• K8s 解决了裸跑Docker的若干痛点

  • 单机使用，无法有效集群
  • 随着容器数量的上升，管理成本攀升
  • 没有有效的容灾、自愈机制
  • 没有预设编排模板，无法实现快速、大规模容器调度
  • 没有统一的配置管理中心工具
  • 没有容器生命周期的管理工具
  • 没有图形化运维管理工具

• K8S提供了容器编排，资源调度，弹性伸缩，部署管理，服务发现等一系列功能。

K8S的特性

• 弹性伸缩

  使用命令、UI或者基于CPU使用情况自动快速扩容和缩容应用程序实例，保证应用业务高峰并发时的高可用性；业务低峰时回收资源，以最小成本运行服务

• 自我修复

  在节点故障时重新启动失败的容器，替换和重新部署，保证预期的副本数量；杀死健康检查失败的容器，并且在未准备好之前不会处理客户请求，保证线上服务不中断

• 服务发现和负载均衡

  K8S为多个容器提供一个统一访问入口（内部IP地址和一个DNS名称），并且负载均衡关联的所有容器，使得用户无需考虑容器IP问题

• 自动发布（默认滚动发布模式）和回滚

  K8S采用滚动更新策略更新应用，一次更新一个Pod，而不是同时删除所有Pod，如果更新过程中出现问题，将回滚更改，确保升级不影响业务。

• 集中化配置管理和密钥管理

  管理机密数据和应用程序配置，而不需要把敏感数据暴露在镜像里，提高敏感数据安全性。并可以将一些常用的配置存储在K8S中，方便应用程序使用。

• 存储编排，支持外 挂存储并对外 挂存储资源进行编排

  挂载外部存储系统，无论是来自本地存储，公有云(如AWS)，还是网络存储（如NES、Glusterfs、Ceph）都作为集群资源的一部分使用，极大提高存储使用灵活性。

• 任务批处理运行

  提供一次性任务，定时任务;满足批量数据处理和分析的场景。

Kubernetes 集群架构与组件

架构

• K8S是属于主从设备模型（Master-slave架构），即有Master节点负责集群的调度、管理和运维，Slave节点是集群中的运算工作负载节点。
• 在K8S 中，主节点一般被称为Master节点，而从节点则被称为worker Node节点，每个Node都会被Master分配一些工作负载。
• Master组件可以在群集中的任何计算机上运行，但建议Master节点占据一个独立的服务器。因为Master是整个集群的大脑，如果Master所在节点宕机或不可用，那么所有的控制命令都将失效。除了Master，在K8S集群中的其他机器被称为Worker Node节点，当某个Node宕机时，其上的工作负载会被Master自动转移到其他节点上去。

核心组件

Master组件

• Kube-apiserver

  用于暴露Kubernetes API，任何资源请求或调用操作都是通过 kube-apiserver提供的接口进行。以HTTP Restful API提供接口服务，所有对象资源的增删改查和监听操作都交给API Server处理后再提交给 Etcd存储。

  可以理解成API Server是 K8S 的请求入口服务。API Server 负责接收K8S 所有请求（来自UI界面或者CLI命令行工具)，然后根据用户的具体请求，去通知其他组件工作。可以说 API Server是K8S集群架构的大脑。

• Kube-controller-manager

  运行管理控制器，是 K8S集群中处理常规任务的后台线程，是K8S集群里所有资源对象的自动化控制中心。在K8S集群中，一个资源对应一个控制器，而Controller manager就是负责管理这些控制器的

  由一系列控制器组成，通过 API Server 监控整个集群的状态，并确保集群处于预期的工作状态，比如当某个Node意外宕机时，Controller Manager会及时发现并执行自动化修复流程，确保集群始终处于预期的工作状态。

  这些控制器主要包括

  • Node Controller（节点控制器）：负责在节点出现故障时发现和响应。
  • Replication Controller（副本控制器）：负责保证集群中一个RC(资源对象Replication Controller)所关联的Pod副本数始终保持预设值。可以理解成确保集群中有且仅有N个Pod实例，N是RC中定义的 Pod副本数量。
  • Endpoints Controller（端点控制器）：填充端点对象（即连接Services 和 Pods），负责监听Service和对应的 Pod副本的变化。可以理解端点是一个服务暴露出来的访问点，如果需要访问一个服务，则必须知道它的 endpoint。
  • service Account & Token Controllers（服务帐户和令牌控制器）:为新的命名空间创建默认帐户和API访问令牌
  • ResourceQuota Controller（资源配额控制器）：确保指定的资源对象在任何时候都不会超量占用系统物理资源。
  • Namespace Controller（命名空间控制器）：管理namespace的生命周期。
  • Service Controller（服务控制器）：属于K8S集群与外部的云平台之间的一个接口控制器。

• Kube-scheduler

  是负责资源调度的进程，根据调度算法为新创建的Pod选择一个适合的node节点。

  可以理解成K8S所有 Node节点的调度器。当用户要部署服务时，Scheduler会根据调度算法选择最合适的 Node 节点来部署Pod。

  • 预算策略(predicate)
  • 优选策略(priorities)

  API Server接收到请求创建一批Pod，API Server会让Controller-manager 按照所预设的模板去创建Pod，Controller-manager会通过 API Server 去找Scheduler为新创建的 Pod选择最适合的 Node节点。比如运行这个Pod需要2C4G的资源，Scheduler 会通过预算策略过滤掉不满足策略的 Node节点。Node 节点中还剩多少资源是通过汇报给API Server存储在etcd里，API Server 会调用一个方法找到etcd里所有 Node节点的剩余资源，再对比 Pod所需要的资源，如果某个 Node节点的资源不足或者不满足预选策略的条件则无法通过预选。预选阶段筛选出的节点，在优选阶段会根据优先策略为通过预选的 Node节点进行打分排名，选择得分最高的Node。例如，资源越富裕、负载越小的Node可能具有越高的排名。

配置存储中心

• etcd

  K8S 的存储服务。etcd 是分布式键值存储系统，存储了K8S的关键配置和用户配置，KBS 中仅API Server才具备读写权限，其他组件必须通过API Server的接口才能读写数据。

Node组件

• Kubelet

  Node节点的监视器，以及与Master节点的通讯器。Kubelet 是Master 节点安插在Node节点上的"眼线"，它会定时向API Server汇报自己 Node节点上运行的服务的状态，并接受来自Master节点的指示采取调整措施。

  从Master节点获取自己节点上Pod的期望状态（比如运行什么容器、运行的副本数量、网络或者存储如何配置等），直接跟容器引擎交互实现容器的生命周期管理，如果自己节点上 Pod 的状态与期望状态不一致，则调用对应的容器平台接口（即docker 的接口）达到这个状态。

  管理镜像和容器的清理工作，保证节点上镜像不会占满磁盘空间，退出的容器不会占用太多资源。

  总结:

  • 在Kubernetes集群中，在每个Node(又称Worker Node)上都会启动一个 kubelet 服务进程。该进程用于处理 Master下发到本节点的任务，管理Pod 及Pod 中的容器。每个kubelet进程都会在API Server 上注册节点自身的信息，定期向Master汇报节点资源的使用情况，并通过cAdvisor 监控容器和节点资源。

• kube-Proxy

  在每个Node节点上实现 Pod网络代理，是 Kubernetes Service资源的载体，负责维护网络规则和四层负载均衡工作。负责写入规则至iptables、ipvs实现服务映射访问的。

  Kube-Proxy本身不是直接给 Pod 提供网络，Pod的网络是由 Kubelet 提供的，Kube-Proxy 实际上维护的是虚拟的 Pod集群网络。Kube-apiserver通过监控Kube-Proxy进行对 Kubernetes Service 的更新和端点的维护。

  在K8S集群中微服务的负载均衡是由 Kube-proxy 实现的。Kube-proxy是K8S集群内部的负载均衡器。它是一个分布式代理服务器，在K8S 的每个节点上都会运行一个Kube-proxy 组件。

• docker或rocket

  容器引擎，运行容器，负责本机的容器创建和管理工作。

Kubernetes工作流程

• 用户通过认证然后通过kubectl工具发送请求给APIserver创建pod，APIserver（先把相关的信息写入到etcd中）请求controller-manager根据预设的模板创建相关的pod。controlller-manager之后会通过APIserver找到kube-scheduler去调度该pod，然后kube-schedule获得etcd中node节点使用情况根据优先策略选择出合适的node节点，让APIserver去找到node上的kubelet通过docker引擎去创建pod。
• node上的kube-proxy使用一些网络规则（iptables/ipvs）实现service的映射访问将pod统一起来暴露出去，集群外的用户就可以访问到所关联的pod。kubelet会定期监控pod资源的使用情况报告给kube-APIserver写入到etcd中，kube-manager也会定期监控pod状态，当pod数量不满足要求时，controller-manager会去创建pod。

master：

apiserver：服务访问统一入口

controller-mamager：维持Pod副本期望数目

scheduler：调度Pod资源，选择适合的node分配pod

etcd：分布式数据库，键值对存储方式，持久化存储k8s集群元信息

worknode：

kubelet：跟容器引擎交互实现容器的生命周期管理，监控node上节点资源使用情况并向master的apisercer汇报资源使用情况

kube-proxy：实现四层代理，负责写入iptables/ipvs规则实现service的映射访问

容器引擎:docker

Kubernetes核心概念

• Kubernetes包含多种类型的资源对象: Pod、Label、Service、Replication Controller 等。
• 所有的资源对象都可以通过Kubernetes提供的 kubectl 工具进行增、删、改、查等操作，并将其保存在 etcd 中持久化存储。
• Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。

Pod

• Pod是 Kubernetes创建或部署的最小/最简单的基本单位，一个 Pod 代表集群上正在运行的一个进程。可以把Pod理解成豌豆荚，而同一 Pod 内的每个容器是一颗颗豌豆。
• 一个 Pod 由一个或多个容器组成，Pod中容器共享网络、存储和计算资源，在同一台 Docker 主机上运行。一个Pod里可以运行多个容器，又叫边车模式(SideCara)模式。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个Pod。
• 同一个 Pod之间的容器可以通过 localhost 互相访问，并且可以挂载Pod内所有的数据卷;但是不同的 Pod之间的容器不能用localhost访问，也不能挂载其他 Pod 的数据卷。

Pod控制器

• Pod 控制器是 Pod启动的一种模版，用来保证在K8S里启动的 Pod应始终按照用户的预期运行（副本数、生命周期、健康状态检查等)

• K8S内提供了众多的Pod控制器，常用的有以下几种

  • Deployment:无状态应用部署。Deployment 的作用是管理和控制 Pod和ReplicaSet，管控它们运行在用户期望的状态中。

  • Replicaset:确保预期的pod副本数量。ReplicaSet 的作用就是管理和控制 pod，管控他们好好干活。但是，ReplicaSet 受控于Deploynent

    可以理解成Deployment就是总包工头，主要负责监督底下的工人 Pod干活，确保每时每刻有用户要求数量的Pod在工作。如果一旦发现某个工人 Pod不行了，就赶紧新拉一个 Pod过来替换它。而Replicaset就是总包工头手下的小包工头。从K8S使用者角度来看，用户会直接操作Deployment部署服务，而当Deployment被部署的时候，K8S会自动生成要求的ReplicaSet和Pod。用户只需要关心Deployment而不操心Replicaset。

    资源对象Replication Controller 是ReplicaSet 的前身，官方推荐用Deployment取代Replication Controller 来部署服务。

  • Daemonset:确保所有节点运行同一类Pod，保证每个节点上都有一个此类 Pod 运行，通常用于实现系统级后台任务。

  • Statefulset:有状态应用部署

  • Job:一次性任务。根据用户的设置，Job 管理的 Pod把任务成功完成就自动退出了。

  • cronjob:周期性计划性任务

Label

• 标签，是 K8s 特色的管理方式，便于分类管理资源对象。

  Label可以附加到各种资源对象上，例如 Node、Pod、service、RC等，用于关联对象、查询和筛选。

  一个Label是一个key-value 的键值对，其中 key 与value 由用户自己指定。

  一个资源对象可以定义任意数量的Label，同一个Label 也可以被添加到任意数量的资源对象中，也可以在对象创建后动态添加或者删除。可以通过给指定的资源对象捆绑一个或多个不同的Label，来实现多维度的资源分组管理功能。

  与Label类似的，还有Annotation (注释)。区别在于有效的标签值必须为63个字符或更少，并且必须为空或以字母数字字符([a-z0-9A-Z])开头和结尾，中间可以包含横杠(-)、下划线(_) 、点(.)和字母或数字。注释值则没有字符长度限制。

Label 选择器(Label selector)

• 给某个资源对象定义一个label，就相当于给它打了一个标签，随后可以通过标签选择器(Label selector)查询和筛选拥有某些Label的资源对象。
• 标签选择器目前有两种:基于等值关系（等于、不等于）和基于集合关系（属于、不属于、存在)。

service

• 在K8S的集群里，虽然每个pod会被分配一个单独的IP地址，但由于Pod是有生命周期的（它们可以被创建，而且销毁之后不会再启动)，随时可能会因为业务的变更，导致这个IP地址也会随着Pod 的销毁而消失。

• service就是用来解决这个问题的核心概念。

  K8s 中的service并不是我们常说的"服务"的含义，而更像是网关层，可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。

  service 作用于哪些Pod是通过标签选择器来定义的。

  在K8S集群中，Service可以看作一组提供相同服务的 Pod 的对外访问接口。客户端需要访问的服务就是 service 对象。每个Service都有一个固定的虚拟ip(这个ip 也被称为Cluster IP)，自动并且动态地绑定后端的pod，所有的网络请求直接访问Service 的虚拟ip， service会自动向后端做转发。

  Service 除了提供稳定的对外访问方式之外，还能起到负载均衡(Load Balance)的功能，自动把请求流量分布到后端所有的服务上，service可以做到对客户透明地进行水平扩展(scale) 。

  而实现 service 这一功能的关键，就是 kube-proxy。kube-proxy运行在每个节点上，监听API Server中服务对象的变化，可通过以下三种流量调度模式: userspace(废弃)、iptables(濒临废弃)、ipvs(推荐，性能最好)来实现网络的转发。

  Service 是K8S服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了"微服务"。比如我们的一个服务A，部署了3个副本，也就是 3个 Pod;对于用户来说，只需要关注一个Service 的入口就可以，而不需要操心究竟应该请求哪一个Pod。优势非常明显:一方面外部用户不需要感知因为 Pod 上服务的意外崩溃、K8S重新拉起 Pod而造成的IP 变更，
  外部用户也不需要感知因升级、变更服务带来的 Pod替换而造成的IP变化。

Ingress

• Service主要负责K8s集群内部的网络拓扑，那么集群外部怎么访问集群内部呢?这个时候就需要Ingress 了。Ingress 是整个K8S集群的接入层，负责集群内外通讯。

  Ingress 是 K8s集群里工作在 OSI 网络参考模型下，第7层的应用，对外暴露的接口，典型的访问方式是 http/https。

  service 只能进行第四层的流量调度，表现形式是 ip+port。Ingress则可以调度不同业务域、不同URL访问路径的业务流量。

  比如:客户端请求http://www.nnn.com:port —> Ingress —> service —> Pod

Name

• 由于K8s内部，使用"资源”来定义每一种逻辑概念（功能），所以每种"资源"，都应该有自己的"名称”
• "资源"有 api版本（apiversion）、类别(kind)、元数据(metadata)、定义清单(spec)、状态(status）等配置信息。"名称”通常定义在"资源”的"元数据”信息里。在同一个namespace空间中必须是唯一的。

Namespace

• 随着项目增多、人员增加、集群规模的扩大，需要一种能够逻辑上隔离K8S 内各种“资源”的方法，这就是 Namespace
• Namespace是为了把一个 K8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。
• 不同Namespace 内的"资源"名称可以相同，相同Namespace 内的同种"资源"，"名称”不能相同。
• 合理的使用K8s 的 Namespace，可以使得集群管理员能够更好的对交付到K8s里的服务进行分类管理和浏览。
• K8S里默认存在的 Namespace 有: default、kube-system、kube-public等。
• 查询K8s 里特定“资源”要带上相应的Namespace。

常见的K8S安装部署方式

• Minikube

  Minikube是一个工具，可以在本地快速运行一个单节点微型K8s，仅用于学习、预览K8s的一些特性使用。

  部署地址: https://kubernetes.io/docs/setup/minikube

• Kubeadmin

  Kubeadmin也是一个工具，提供kubeadm init和kubeadm join，用于快速部署K8s集群，相对简单。

  https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/

• 二进制安装部署

  生产首选，从官方下载发行版的二进制包，手动部署每个组件和自签TLS证书，组成K8s集群，新手推荐。

  https://github.com/kubernetes/kubernetes/releases

小结：Kubeadmin降低部署门槛，但屏蔽了很多细节，遇到问题很难排查。如果想更容易可控，推荐使用二进制包部署kubernetes集群，虽然手动部署麻烦点，期间可以学习很多工作原理，也利于后期维护。