Kubernetes 基本概念和部署

目录

引言

一、 Kubernetes 介绍

1.1   应用部署方式演变

1.2  kubernetes 简介 

1.3  为什么要使用kubernetes

1.4  Kubernetes 特点

1.5  kubernetes特性

二、kubernetes集群架构与组件

2.1  kubernetes 组件

2.1.1  master  组件

2.1.2   node组件

2.1.3  整体流程

2.2  k8s工作流程

三、  Kubernetes核心概念

3.1  Pod

3.1.1  Pod控制器

3.2  Label

3.2.1 Label选择器(Label selector )

3.3  Service

3.4  Ingress

3.5  Name

3.6  Namespace

四、kubernetes集群环境搭建

4.1 前置知识点

4.1.1  kubeadm 部署方式介绍

4.1.2  安装要求

4.1.3  最终目标

4.2  环境准备

4.3 环境初始化

4.3.1  检查操作系统的版本

4.3.2  主机名解析

4.3.3  时间同步

4.3.4  禁用iptable和firewalld服务

4.3.5  禁用selinux

4.3.6  禁用swap分区

4.3.7   修改linux的内核参数

4.3.8  配置ipvs功能

4.3.9  安装docker（注意docker 版本要一致）

4.4  安装Kubernetes组件

版本查看

 4.5  准备集群镜像

扩展：半路总结

4.5.1   集群初始化

扩展：错误及集 

4.5.2  在master上查看节点信息

4.5.3  安装网络插件（CNI）

4.6  集群测试

4.6.1  创建一个nginx服务

4.6.2  暴露端口

4.6.3  查看服务

扩展：体验pod

五、k8s常用命令

总结：

---

引言

Kubernetes 是一个可移植、可扩展的开源平台，用于管理容器化工作负载和服务，有助于声明式配置和自动化。它拥有庞大且快速发展的生态系统。

一、 Kubernetes 介绍

1.1   应用部署方式演变

在部署应用程序的方式上，主要经历了三个时代：

传统部署：互联网早期，会直接将应用程序部署在物理机上

优点：简单，不需要其它技术的参与

缺点：不能为应用程序定义资源使用边界，很难合理地分配计算资源，而且程序之间容易产生影响

虚拟化部署：可以在一台物理机上运行多个虚拟机，每个虚拟机都是独立的一个环境

优点：程序环境不会相互产生影响，提供了一定程度的安全性

缺点：增加了操作系统，浪费了部分资源

容器化部署：与虚拟化类似，但是共享了操作系统

优点：

可以保证每个容器拥有自己的文件系统、CPU、内存、进程空间等

运行应用程序所需要的资源都被容器包装，并和底层基础架构解耦

容器化的应用程序可以跨云服务商、跨Linux操作系统发行版进行部署

容器化部署方式给带来很多的便利，但是也会出现一些问题，比如说：

• 一个容器故障停机了，怎么样让另外一个容器立刻启动去替补停机的容器
• 当并发访问量变大的时候，怎么样做到横向扩展容器数量

这些容器管理的问题统称为容器编排问题，为了解决这些容器编排问题，就产生了一些容器编排的软件：

• Swarm：Docker自己的容器编排工具
• Mesos：Apache的一个资源统一管控的工具，需要和Marathon结合使用
• Kubernetes：Google开源的的容器编排工具

 

1.2  kubernetes 简介 

Kubernetes(通常称为K8s，K8s是将8个字母“ubernete”替换为“8”的缩写)是一个以容器为中心的基础架构，可以实现在物理集群或虚拟机集群上调度和运行容器，提供容器自动部署、扩展和管理的开源平台。满足了应用程序在生产环境中的一些通用需求：应用实例副本、水平自动扩展、命名与发现、负载均衡、滚动升级、资源监控等。

Kubernetes 是一个可移植、可扩展的开源平台，用于管理容器化工作负载和服务，有助于声明式配置和自动化。它拥有庞大且快速发展的生态系统。

kubernetes，是一个全新的基于容器技术的分布式架构领先方案，是谷歌严格保密十几年的秘密武器----Borg系统的一个开源版本，于2014年9月发布第一个版本，2015年7月发布第一个正式版本。

作用：

• 用于自动部署、扩展和管理“容器化( containerized) 应用程序"的开源系统。
• 可以理解成K8S是负责自动化运维管理多个容器化程序(比如Docker)的集群，是一个生态极其丰富的容器编排框架工具。

1.3  为什么要使用kubernetes

总所周知kubernetes是一个容器编排工具，可以高效、批量的去管理容器；那么有人就要问了，docker有自带的docker-compose（单机编排）和docker-Swarm（多机编排），为什么还要用k8s，Docker-Compose的运用可以充分地把单物理服务器的性能充分利用起来，并且可以快速地进行持续交付，那如何高效地进行监控各个容器的健康运行情况以及崩溃后如何迁移服务呢？也就是常见的集群管理问题，此时的docker Swarm技术解决了这个问题，但是如何更加高效、智能的管理容器集群呢？这时谷歌公司内部使用很久k8s横空出世，抢占了近80%的市场份额，成为行业领头羊，为什么k8s能击败docker Swarm呢？那是因为kubernetes的这些优点：

• 快速部署功能：定义对应的charts，可以方便把大型的应用部署上去。
• 智能的缩扩容机制：部署时候会自动去考虑容器应该部署在哪个服务器上，以及副本的数量可以自定义。
• 自愈功能：某个节点的服务崩溃了，可以自动迁移到另外一个服务器节点来恢复来实现高可用。
• 智能的负载均衡：利用Ingress，可以实现流量通过域名访问进来时候，进行流量的分流到不同服务器上。
• 智能的滚动升降级：升级或者降级时候，会逐个替换，当自定义数量的服务升级OK后，才会进行其他的升级以及真正销毁旧的服务。

技术	应用场景	资源占用比
docker	单机部署简单应用	低
Docker-Compose	单机/少数机器部署应用	低
kubernetes	集群部署高可用应用	低

1.4  Kubernetes 特点

1. 可移植: 支持公有云，私有云，混合云，多重云（multi-cloud）
2. 可扩展: 模块化, 插件化, 可挂载, 可组合
3. 自动化: 自动部署，自动重启，自动复制，自动伸缩/扩展
4. 快速部署应用，快速扩展应用
5. 无缝对接新的应用功能
6. 节省资源，优化硬件资源的使用

1.5  kubernetes特性

1.  轻量级

使用go语言；一种编译型语言，语言级别支持进程管理，不需要人为控制，所以以go开发的资源消耗占用资源小。

一些解释性语言:例如Python/Javascript / Perl /Shell，效率较低，占用内存资源较多

2.  开源

3.  自我修复

在节点故障时重新启动失败的容器，替换和重新部署，保证预期的副本数量;杀死健康检查失败的容器，并且在未准备好之前不会处理客户端请求,确保线上服务不中断。

即对异常状态的容器进行重启或重建（先删除、再创建），目的是保证业务线不中断。

4.  弹性伸缩

使用命令 UI 或者基于CPU使用情况自动快速扩容和缩容应用程序实例，保证应用业务高峰并发时的高可用性;业务低峰时回收资源,以最小成本运行服务。

伸缩:扩容和缩容
弹性:人为只要指定规则，满足条件时，就会自动触发扩容或缩容的操作

5.  服务发现和负载均衡

K8S为多个pod提供一个统一访问入口(内部IP地址和一个DNS名称)，并且负载均衡关联的所有容器，使得用户无需考虑容器IP问题。

服务发现：服务可以通过自动发现的形式找到它所依赖的服务

负载均衡：如果一个服务起动了多个容器，能够自动实现请求的负载均衡

6.  版本回退

如果发现新发布的程序版本有问题，可以立即回退到原来的版本

7.  存储编排

挂载外部存储系统，无论是来自本地存储，公有云（如AWS)，还是网络存储〈如NES、GlusterFS、Ceph）都作为集群资源的一部分使用，极大提高存储使用灵活性。

支持外挂存储并对外挂存储资源进行编排

8.  批处理

提供一次性任务（job），定时任务（cronjob）；满足批量数据处理和分析的场景

9.  自动部署和回滚

KBS采用滚动更新策略更新应用，一次更新一个Pod，而不是同时删除所有Pod，如果更新过程中出现问题，将回滚更改，确保升级不受影响业务。

10.  机密和配置管理  (secret——》安全/认证加密性的数据)

管理机密数据和应用程序配置，而不需要把敏感数据暴露在镜像里，提高敏感数据安全性。并可以将一些常用的配置存储在K8S中，方便应用程序使用。

二、kubernetes集群架构与组件

2.1  kubernetes 组件

K8S是属于主从设备模型(Master-slave 架构)，即有Master 节点负责集群的调度、管理和运维，Slave 节点是集群中的运算工作负载节点。

在K8S中，主节点一般被称为Master 节点，而从节点则被称为Worker Node节点，每个Node都会被Master分配一些工作负载。
Master组件可以在群集中的任何计算机上运行，但建议Master节点占据一个独立的服务器。因为Master是整个集群的大脑，如果Master所在节点宕机或不可用，那么所有的控制命令都将失效。除了Master, 在K8S集群中的其他机器被称为Worker Node节点，当某个Node宕机时，其上的工作负载会被Master自动转移到其他节点上去。

2.1.1  master  组件

master：集群的控制平面，负责集群的决策 ( 管理 )

①  kube-apiserver
Kubernetes API，集群的统一入口，各组件协调者，以Restful API提供接口服务，所有对象资源的增删改查和监听操作都交给APIServer处理后再提交给Etcd存储。

 kube-apiserver 设计上考虑了水平伸缩，也就是说，它可通过部署多个实例进行伸缩。 你可以运行 kube-apiserver 的多个实例，并在这些实例之间平衡流量。

②  kube-controller-manager  (控制器管理中心-定义资源类型)
处理集群中常规后台任务，一个资源对应一个控制器，而ControllerManager就是负责管理这些控制器的。

这些控制器包括:
– ● 节点控制器（Node Controller）: 负责在节点出现故障时进行通知和响应
– ● 任务控制器（Job controller）: 监测代表一次性任务的 Job 对象，然后创建 Pods 来运行这些任务直至完成
– ● 端点控制器（Endpoints Controller）: 填充端点(Endpoints)对象(即加入 Service 与 Pod)
– ● 服务帐户和令牌控制器（Service Account & Token Controllers）: 为新的命名空间创建默认帐户和 API 访问令牌

③  kube-scheduler
根据调度算法（预选/优选的策略）为新创建的Pod选择一个Node节点，可以任意部署,可以部署在同一个节点上,也可以部署在不同的节点上。

调度决策考虑的因素包括单个 Pod 和 Pod 集合的资源需求、硬件/软件/策略约束、亲和性和反亲和性规范、数据位置、工作负载间的干扰和最后时限。

④  etcd
分布式键值存储系统（特性:服务自动发现）。用于保存集群状态数据，比如Pod、Service等对象信息

PS:etcd V2版本:数据保存在内存中
v3版本:引入本地volume卷的持久化（可根据磁盘进行恢复),服务发现，分布式（方便扩容，缩容）
etcd是一种定时全量备份+持续增量备份的持久化方式，最后存储在磁盘中
但kubernetes 1.11版本前不支持v3,我用的事K8S 1.15
ETCD一般会做为3副本机制(奇数方式)，分布在三台master上(也有的公司单独用服务器部署ETCD )
master：奇数的方式部署（多节点的时候)

⑤  AUTH :认证模块
K8S 内部支持使用RBAC认证的方式进行认证 

⑥  cloud-controller-manager

云控制器管理器是指嵌入特定云的控制逻辑的 控制平面组件。 云控制器管理器允许您链接集群到云提供商的应用编程接口中， 并把和该云平台交互的组件与只和您的集群交互的组件分离开。
cloud-controller-manager 仅运行特定于云平台的控制回路。 如果你在自己的环境中运行 Kubernetes，或者在本地计算机中运行学习环境， 所部署的环境中不需要云控制器管理器。
与 kube-controller-manager 类似，cloud-controller-manager 将若干逻辑上独立的 控制回路组合到同一个可执行文件中，供你以同一进程的方式运行。 你可以对其执行水平扩容（运行不止一个副本）以提升性能或者增强容错能力。

下面的控制器都包含对云平台驱动的依赖：
– ● 节点控制器（Node Controller）: 用于在节点终止响应后检查云提供商以确定节点是否已被删除
– ● 路由控制器（Route Controller）: 用于在底层云基础架构中设置路由
– ● 服务控制器（Service Controller）: 用于创建、更新和删除云提供商负载均衡器

2.1.2   node组件

①  kubelet
kubelet是Master在Node节点上的Agent，管理本机运行容器的生命周期,比如创建容器、Pod挂载数据卷、下载secret、获取容器和节点状态等工作。kubelet将每个Pod转换成一组容器。

kubelet —》先和docker引擎进行交互—》docker容器(一组容器跑在Pod中)

②   kube-proxy（四层）
在Node节点上实现Pod网络代理，维护网络规则、pod之间通信和四层负载均衡工作。默认会写入规则至iptables ，目前支持IPVS、同时还支持namespaces

对于七层的负载，k8s官方提供了一种解决方案；ingress-nginx

③docker或rocket
容器引擎，运行容器。

2.1.3  整体流程

①使用kubectl命令的时候会先进行验证权限（AUTH)
②通过API-server 对容器云的资源进行操作 

2.2  k8s工作流程

下面，以部署一个nginx服务来说明kubernetes系统各个组件调用关系：

1. 首先要明确，一旦kubernetes环境启动之后，master和node都会将自身的信息存储到etcd数据库中
2. 一个nginx服务的安装请求会首先被发送到master节点的apiServer（资源操作的唯一入口）组件
3. apiServer组件会调用scheduler组件(负责集群资源调度)来决定到底应该把这个服务安装到哪个node节点上，在此时，它会从etcd中读取各个node节点的信息，然后按照一定的算法进行选择，并将结果告知apiServer
4. apiServer调用controller-manager(负责维护集群的状态)去调度Node节点安装nginx服务
5. kubelet(负责维护容器的生命周期)接收到指令后，会通知docker，然后由docker来启动一个nginx的pod，pod是kubernetes的最小操作单元，容器必须跑在pod中至此，
6. 一个nginx服务就运行了，如果需要访问nginx，就需要通过kube-proxy(负责提供集群内部的服务发现和负载均衡)来对pod产生访问的代理

这样，外界用户就可以访问集群中的nginx服务了

三、  Kubernetes核心概念

Kubernetes包含多种类型的资源对象: Pod、 Label、 Service、 Replication Controller 等。
所有的资源对象都可以通过Kubernetes 提供的kubectl 工具进行增、删、改、查等操作，并将其保存在etcd 中持久化存储。
Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。

3.1  Pod

Pod是Kubernetes 创建或部署的最小/最简单的基本单位，一个Pod代表集群上正在运行的一个进程。

• 可以把Pod理解成豌豆荚，而同一Pod内的每个容器是一颗颗豌豆。
• 一个Pod 由一个或多个容器组成，Pod 中容器共享网络、存储和计算资源，在同一台Docker 主机上运行。
• 一个Pod里可以运行多个容器，又叫边车模式(SideCara) 模式。而在生产环境中一 般都是单个容器或者具有强关联互补的多个容器组成一 个Pod。
• 同一个Pod 之间的容器可以通过localhost 互相访问，并且可以挂载Pod 内所有的数据卷;但是不同的Pod之间的容器不能用localhost访问，也不能挂载其他Pod的数据卷。

3.1.1  Pod控制器

Pod控制器是Pod启动的一种模版，用来保证在K8S里启动的Pod应始终按照用户的预期运行(副本数、生命周期、健康状态检查等)。

K8s内提供了众多的Pod控制器，常用的有以下几种:
1.Deployment:无状态应用部署。Deployment 的作用是管理和控制Pod和ReplicaSet， 管控它们运行在用户期望的状态中。
2.Replicaset:确保预期的Pod 副本数量。Replicaset 的作用就是管理和控制Pod， 管控他们好好干活。但是，ReplicaSet 受控于Deployment。
可以理解成Deployment 就是总包工头，主要负责监督底下的工人Pod 干活，确保每时每刻有用户要求数量的Pod在工作。如果一旦发现某个工人Pod 不行了，就赶紧新拉一个Pod 过来替换它。而ReplicaSet 就是总包工头手下的小包工头。
从K8S使用者角度来看，用户会直接操作Deployment 部署服务，而当Deployment 被部署的时候，K8S 会自动生成要求的ReplicaSet和Pod。用户只需要关心Deployment 而不操心ReplicaSet。
资源对象Replication Controller 是ReplicaSet 的前身，官方推荐用Deployment 取代Replication Controller 来部署服务。
3.Daemonset: 确保所有节点运行同一类Pod，保证每 个节点上都有- -个此类Pod运行，通常用于实现系统级后台任务。
4.Statefulset: 有状态应用部署
5.Job:一次性任务。 根据用户的设置，Job管理的Pod把任务成功完成就自动退出了。
6.Cronjob: 周期性计划性任务

3.2  Label

• 标签，是K8S特色的管理方式，便于分类管理资源对象。
• Label可以附加到各种资源对象.上，例如Node、Pod、Service、 RC等，用于关联对象、查询和筛选。
• 一个Label 是一个key-value 的键值对，其中key 与value 由用户自己指定。
• 一个资源对象可以定义任意数量的Label，同一个Label也可以被添加到任意数量的资源对象中，也可以在对象创建后动态添加或者删除。
• 可以通过给指定的资源对象捆绑一个或多个不同的Label，来实现多维度的资源分组管理功能。
• 与Label 类似的，还有Annotation (注释)
• 区别在于有效的标签值必须为63个字符或更少，并且必须为空或以字母数字字符( [a-z0-9A-Z])开头和结尾，中间可以包含横杠(-)、下划线(_)、点(.)和字母或数字。注释值则没有字符长度限制。
   

3.2.1 Label选择器(Label selector )

给某个资源对象定义一个Label，就相当于给它打了一个标签;随后可以通过标签选择器( Label selector) 查询和筛选拥有某些Label的资源对象。

标签选择器目前有两种:基于等值关系(等于、不等于)和基于集合关系(属于、不属于、存在)。

3.3  Service

在K8s的集群里，虽然每个Pod会被分配一-个单独的IP地址，但由于Pod是有生命周期的(它们可以被创建，而且销毁之后不会再启动)，随时可能会因为业务的变更，导致这个IP地址也会随着Pod 的销毁而消失。
Service就是用来解决这个问题的核心概念。

K8S中的Service并不是我们常说的“服务"的含义，而更像是网关层，可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。

Service作用于哪些Pod是通过标签选择器来定义的。
在K8S集群中，service 可以看作一组提供相同服务的Pod的对外访问接口。客户端需要访问的服务就是service对象。每个service都有一个固定的虛拟ip (这个ip也被称为Cluster IP) ，自动并且动态地绑定后端的Pod， 所有的网络请求直接访问Service 的虚拟ip,service会自动向后端做转发。
Service除了提供稳定的对外访问方式之外，还能起到负载均衡(Load Balance)的功能，自动把请求流量分布到后端所有的服务.上，Service可以做到对客户透明地进行水平扩展(scale)。
而实现service 这一功能的关键， 就是kube-proxy。 kube-proxy 运行在每个节点上，监听API Server 中服务对象的变化，
可通过以下三种流量调度模式:

userspace (废弃)、iptables ( 濒临废弃)、ipvs (推荐，性能最好)来实现网络的转发。

Service 是K8S服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了“微服务”。比如我们的一个服务A，部署了3个副本，也就是3个Pod;
对于用户来说，只需要关注一个Service 的入口就可以，而不需要操心究竞应该请求哪一个Pod。
优势非常明显:一方 面外部用户不需要感知因为Pod. 上服务 的意外崩溃、K8S重新拉起Pod 而造成的IP变更，外部用户也不需要感知因升级、变更服务带来的Pod替换而造成的IP变化。

3.4  Ingress

Service主要负责K8S集群内部的网络拓扑，那么集群外部怎么访问集群内部呢?这个时候就需要Ingress 了。Ingress 是整个K8S集群的接入层，负责集群内外通讯。

Ingress是K8S 集群里工作在oSI网络参考模型下，第7层的应用，对外暴露的接口，典型的访问方式是http/https.

Service只能进行第四层的流量调度，表现形式是iptport。 Ingress 则可以调度不同业务域、不同URL访问路径的业务流量。

比如:客户端请求http://www. kgc。com:port ---> Ingress ---> Service ---> Pod

3.5  Name

由于K8S内部，使用“资源”来定义每一种逻辑概念(功能)，所以每种“资源”，都应该有自己的“名称”。
“资源”有api 版本(apiversion) 、类别(kind) 、元数据(metadata) 、定义清单(spec) 、状态(status) 等配置信息。
“名称”通常定义在“资源”的“元数据”信息里。在同一个namespace 空间中必须是唯一的。

3.6  Namespace

随着项目增多、人员增加、集群规模的扩大，需要一.种能够逻辑.上隔离K8S内各种“资源”的方法，这就是Namespace 。

Namespace是为了把一个K8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。

不同Namespace 内的“资源”名称可以相同，相同Namespace 内的同种“资源”，“名称”不能相同。
合理的使用K8S的Namespace，可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。

K8S里默认存在的Namespace 有: default、kube-system、kube-public等。
查询K8S里特定“资源”要带上相应的Namespace.

四、kubernetes集群环境搭建

4.1 前置知识点

目前生产部署Kubernetes 集群主要有两种方式：

1.  kubeadm

Kubeadm 是一个K8s 部署工具，提供 kubeadm init 和 kubeadm join，用于快速部署Kubernetes 集群。

官方地址：https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/

2.  二进制包

从github 下载发行版的二进制包，手动部署每个组件，组成Kubernetes 集群。

Kubeadm 降低部署门槛，但屏蔽了很多细节，遇到问题很难排查。如果想更容易可控，推荐使用二进制包部署Kubernetes 集群，虽然手动部署麻烦点，期间可以学习很多工作原理，也利于后期维护。

4.1.1  kubeadm 部署方式介绍

kubeadm 是官方社区推出的一个用于快速部署kubernetes 集群的工具，这个工具能通过两条指令完成一个kubernetes 集群的部署：

• 创建一个Master 节点kubeadm init
• 将Node 节点加入到当前集群中$ kubeadm join

4.1.2  安装要求

在开始之前，部署Kubernetes 集群机器需要满足以下几个条件：

• 一台或多台机器，操作系统CentOS7.x-86_x64
• 硬件配置：2GB 或更多RAM，2 个CPU 或更多CPU，硬盘30GB 或更多
• 集群中所有机器之间网络互通
• 可以访问外网，需要拉取镜像
• 禁止swap 分区

4.1.3  最终目标

• 在所有节点上安装Docker 和kubeadm
• 部署Kubernetes Master
• 部署容器网络插件
• 部署Kubernetes Node，将节点加入Kubernetes 集群中
• 部署Dashboard Web 页面，可视化查看Kubernetes 资源

4.2  环境准备

角色	IP地址	组件
master	192.168.111.20	docker，kubectl，kubeadm，kubelet
node01	192.168.111.30	docker，kubectl，kubeadm，kubelet
node02	192.168.111.40	docker，kubectl，kubeadm，kubelet

4.3 环境初始化

4.3.1  检查操作系统的版本

# 此方式下安装kubernetes集群要求Centos版本要在7.5或之上
[root@master ~]# cat /etc/redhat-release

4.3.2  主机名解析

为了方便集群节点间的直接调用，在这个配置一下主机名解析，企业中推荐使用内部DNS服务器

# 主机名成解析 编辑三台服务器的/etc/hosts文件，添加下面内容
192.168.111.20 master
192.168.111.30 node01
192.168.111.40 node02

4.3.3  时间同步

kubernetes要求集群中的节点时间必须精确一直，这里使用chronyd服务从网络同步时间

企业中建议配置内部的会见同步服务器

# 启动chronyd服务
[root@master ~]# systemctl start chronyd
[root@master ~]# systemctl enable chronyd
[root@master ~]# date

4.3.4  禁用iptable和firewalld服务

kubernetes和docker 在运行的中会产生大量的iptables规则，为了不让系统规则跟它们混淆，直接关闭系统的规则

# 1 关闭firewalld服务
[root@master ~]# systemctl stop firewalld
[root@master ~]# systemctl disable firewalld
# 2 关闭iptables服务
[root@master ~]# systemctl stop iptables
[root@master ~]# systemctl disable iptables

4.3.5  禁用selinux

selinux是linux系统一下的一个安全服务，如果不关闭它，在安装集群中会产生各种各样的奇葩问题

# 编辑 /etc/selinux/config 文件，修改SELINUX的值为disable
# 注意修改完毕之后需要重启linux服务
SELINUX=disabled

4.3.6  禁用swap分区

swap分区值的是虚拟内存分区，它的作用是物理内存使用完，之后将磁盘空间虚拟成内存来使用，启用sqap设备会对系统的性能产生非常负面的影响，因此kubernetes要求每个节点都要禁用swap设备

# 编辑分区配置文件/etc/fstab，注释掉swap分区一行
# 注意修改完毕之后需要重启linux服务
vim /etc/fstab
注释掉 /dev/mapper/centos-swap swap
# /dev/mapper/centos-swap swap

swapoff -a # 临时关闭
sed -ri 's/.*swap.*/#&/' /etc/fstab #永久关闭

4.3.7   修改linux的内核参数

# 修改linux的内核采纳数，添加网桥过滤和地址转发功能
# 编辑/etc/sysctl.d/kubernetes.conf文件，添加如下配置：
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1

# 重新加载配置
[root@master ~]# sysctl -p   或者 sysctl --system  # 生效
# 加载网桥过滤模块
[root@master ~]# modprobe br_netfilter
# 查看网桥过滤模块是否加载成功
[root@master ~]# lsmod | grep br_netfilter

4.3.8  配置ipvs功能

在Kubernetes中Service有两种带来模型，一种是基于iptables的，一种是基于ipvs的两者比较的话，ipvs的性能明显要高一些，但是如果要使用它，需要手动载入ipvs模块

# 1.安装ipset和ipvsadm
[root@master ~]# yum install ipset ipvsadmin -y
# 2.添加需要加载的模块写入脚本文件
[root@master ~]# cat < /etc/sysconfig/modules/ipvs.modules
#!/bin/bash
modprobe -- ip_vs
modprobe -- ip_vs_rr
modprobe -- ip_vs_wrr
modprobe -- ip_vs_sh
modprobe -- nf_conntrack_ipv4
EOF
# 3.为脚本添加执行权限
[root@master ~]# chmod +x /etc/sysconfig/modules/ipvs.modules
# 4.执行脚本文件
[root@master ~]# /bin/bash /etc/sysconfig/modules/ipvs.modules
# 5.查看对应的模块是否加载成功
[root@master ~]# lsmod | grep -e -ip_vs -e nf_conntrack_ipv4
nf_conntrack_ipv4      15053  10 
nf_defrag_ipv4         12729  1 nf_conntrack_ipv4
nf_conntrack          133095  10 ip_vs,nf_nat,nf_nat_ipv4,nf_nat_ipv6,xt_conntrack,nf_nat_masquerade_ipv4,nf_nat_masquerade_ipv6,nf_conntrack_netlink,nf_conntrack_ipv4,nf_conntrack_ipv6

4.3.9  安装docker（注意docker 版本要一致）

# 1、切换镜像源
                 yum install wget -y
[root@master ~]# wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo

# 2、查看当前镜像源中支持的docker版本
[root@master ~]# yum list docker-ce --showduplicates

# 3、安装特定版本的docker-ce
# 必须制定--setopt=obsoletes=0，否则yum会自动安装更高版本
[root@master ~]# yum install --setopt=obsoletes=0 docker-ce-20.10.17 -y

# 4、添加一个配置文件
#Docker 在默认情况下使用Vgroup Driver为cgroupfs，而Kubernetes推荐使用systemd来替代cgroupfs
[root@master ~]# mkdir /etc/docker
[root@master ~]# cat < /etc/docker/daemon.json
{
	"exec-opts": ["native.cgroupdriver=systemd"],
	"registry-mirrors": ["https://kn0t2bca.mirror.aliyuncs.com"]
}
EOF

# 5、启动dokcer
[root@master ~]# systemctl restart docker
[root@master ~]# systemctl enable docker

4.4  安装Kubernetes组件

# 1、由于kubernetes的镜像在国外，速度比较慢，这里切换成国内的镜像源
# 2、编辑/etc/yum.repos.d/kubernetes.repo,添加下面的配置
cat < /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
[root@k8s-node1 ~]# yum makecache
# 3、安装kubeadm、kubelet和kubectl
[root@master ~]# yum install --setopt=obsoletes=0 kubelet-1.19.4 kubeadm-1.19.4 kubectl-1.19.4 -y

# 4、配置kubelet的cgroup
#编辑/etc/sysconfig/kubelet, 添加下面的配置
KUBELET_CGROUP_ARGS="--cgroup-driver=systemd"
KUBE_PROXY_MODE="ipvs"

# 5、设置kubelet开机自启
[root@master ~]# systemctl enable --now kubelet
# 6、 查看是否安装成功
yum list installed | grep kubelet
yum list installed | grep kubeadm
yum list installed | grep kubectl

版本查看

[root@k8snode ~]# kubelet --version
Kubernetes v1.19.4

 4.5  准备集群镜像

# 在安装kubernetes集群之前，必须要提前准备好集群需要的镜像，所需镜像可以通过下面命令查看
[root@master ~]# kubeadm config images list

# 下载镜像
# 此镜像kubernetes的仓库中，由于网络原因，无法连接，下面提供了一种替换方案
images=(
	kube-apiserver:v1.17.4
	kube-controller-manager:v1.17.4
	kube-scheduler:v1.17.4
	kube-proxy:v1.17.4
	pause:3.1
	etcd:3.4.3-0
	coredns:1.6.5
)

for imageName in ${images[@]};do
	docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName
	docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName k8s.gcr.io/$imageName
	docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName 
done

扩展：半路总结

果正确安装到这里的时候，已经成功安装一大半了，如上的配置都是需要在所有的节点进行配置。可通过xshell工具将所有指令发送到所有的虚拟机，操作如下。

 另外，有一些配置是需要重启才能生效的，因此，这里可以重启一下。

4.5.1   集群初始化

下面的操作只需要在master节点上执行即可

# 创建集群
[root@master ~]# kubeadm init \
	--apiserver-advertise-address=192.168.111.20 \
	--image-repository registry.aliyuncs.com/google_containers  \
	--kubernetes-version=v1.19.4 \
	--service-cidr=10.96.0.0/12  \
	--pod-network-cidr=10.244.0.0/16 \
    --ignore-preflight-errors=all

--apiserver-advertise-address 集群通告地址
--image-repository 由于默认拉取镜像地址k8s.gcr.io国内无法访问，这里指定阿里云镜像仓库地址
--kubernetes-version K8s版本，与上面安装的一致
--service-cidr 集群内部虚拟网络，Pod统一访问入口
--pod-network-cidr Pod网络，与下面部署的CNI网络组件yaml中保持一致
#####################################################################

# 创建必要文件，拷贝k8s认证文件
[root@master ~]# mkdir -p $HOME/.kube
[root@master ~]# sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
[root@master ~]# sudo chown $(id -u):$(id -g) $HOME/.kube/config

192.168.111.20 是主节点的地址,要自行修改。其它的不用修改。

# 恭喜你Kubernetes control-plane创建成功
Your Kubernetes control-plane has initialized successfully!

# 接下来你要运行下面这三段话
To start using your cluster, you need to run the following as a regular user:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

Alternatively, if you are the root user, you can run:

  export KUBECONFIG=/etc/kubernetes/admin.conf

# 你应该在集群上部署一个pod网络。
You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
  https://kubernetes.io/docs/concepts/cluster-administration/addons/

#你可以添加任意多的control-plane，用下面这段命令：
You can now join any number of control-plane nodes by copying certificate authorities
and service account keys on each node and then running the following as root:

  kubeadm join master-cluster-endpoint:6443 --token 9ezt8v.yx2owzdiaif06so8 \
    --discovery-token-ca-cert-hash sha256:a637ba2a840714a375e6bbc7212123bf8cdd1333317e53731425b6d39af9eafe \
    --control-plane 

#你可以添加任意多的worker-nodes ，用下面这段命令：
Then you can join any number of worker nodes by running the following on each as root:

kubeadm join master-cluster-endpoint:6443 --token 9ezt8v.yx2owzdiaif06so8 \
    --discovery-token-ca-cert-hash sha256:a637ba2a840714a375e6bbc7212123bf8cdd1333317e53731425b6d39af9eafe 

扩展：错误及集 

注意：如若下图一样发生报错，要重启虚拟机，以为上面的配置有的要重启才能生效

 下面的操作只需要在node节点上执行即可

这里复制上面生成的一串命令，我这里只是示例，命令根据你实际生成的复制去node节点执行

kubeadm join 192.168.111.20:6443 --token vdtu41.kqhcyqz81znpt27y \
>     --discovery-token-ca-cert-hash sha256:2c72f117703200a5004e8e4466941aeab693e57bd71a628a86aed32a863dba05 

扩展：默认token有效期为24小时，当过期之后，该token就不可用了。这时就需要重新创建token，可以直接使用命令快捷生成：

 kubeadm token create --print-join-command

4.5.2  在master上查看节点信息

kubectl get nodes查看的时候所有的节点是NotReady状态。

4.5.3  安装网络插件（CNI）

下面两种插件二选一，master上执行，如果是云服务器建议按照flannel，calico可能会和云网络环境有冲突

1.  安装flannel插件（轻量级用于快速搭建使用，初学推荐）

下载yaml文件

wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

修改net-conf.json下面的网段为上面init pod-network-cidr的网段地址（必须正确否则会导致集群网络问题）

sed -i 's/10.240.0.0/10.244.0.0/' kube-flannel.yml

修改完安装插件，执行

kubectl apply -f kube-flannel.yml

kubectl get pods -n kube-system

2.  安装calico插件（用于复杂网络环境）

下载yaml文件

wget  https://docs.projectcalico.org/v3.9/manifests/calico.yaml

修改配置文件的网段为上面init pod-network-cidr的网段地址（必须正确否则会导致集群网络问题）

sed -i 's/192.168.0.0/10.244.0.0/g' calico.yaml

修改完安装插件，执行

kubectl apply -f calico.yaml

确认一下calico是否安装成功（耐心等待,coredns和calico为Running状态后再进行后面的操作）
kubectl get pods --all-namespaces -w

kubectl get pod --all-namespaces -o wide

由于外网不好访问，如果出现无法访问的情况，可以直接用下面的 记得文件名是kube-flannel.yml，位置：/root/kube-flannel.yml内容：

https://github.com/flannel-io/flannel/tree/master/Documentation/kube-flannel.yml

wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

kubectl apply -f kube-flannel.yml.1

至此，集群搭建完成！

4.6  集群测试

4.6.1  创建一个nginx服务

kubectl create deployment nginx --image=nginx

4.6.2  暴露端口

[root@k8s-master1 ~]# kubectl expose deployment nginx --port=80 --type=NodePort
service/nginx exposed

4.6.3  查看服务

[root@master ~] # kubectl get pod,svc
NAME                         READY   STATUS    RESTARTS   AGE
pod/nginx-6799fc88d8-76pkf   1/1     Running   0          3m32s

NAME                 TYPE        CLUSTER-IP       EXTERNAL-IP   PORT(S)        AGE
service/kubernetes   ClusterIP   10.96.0.1                443/TCP        80m
service/nginx        NodePort    10.102.151.167           80:30214/TCP   90s

浏览器测试结果：

扩展：体验pod

1.定义pod.yml文件，比如pod_nginx_rs.yaml

cat > pod_nginx_rs.yaml <

 2.根据pod_nginx_rs.yml文件创建pod

kubectl apply -f pod_nginx_rs.yaml

3.查看pod

kubectl get pods
kubectl get pods -o wide
kubectl describe pod nginx

4.感受通过ReplicaSet将pod扩容

kubectl scale rs nginx --replicas=5
kubectl get pods -o wide

5.删除pod

kubectl delete -f pod_nginx_rs.yaml

五、k8s常用命令

查看pod，service，endpoints，secret等等的状态

kubectl get 组件名      
# 例如kubectl get pod   查看详细信息可以加上-o wide   其他namespace的指定 -n namespace名

创建、变更一个yaml文件内资源，也可以是目录，目录内包含一组yaml文件（实际使用中都是以yaml文件为主，直接使用命令创建pod的很少，推荐多使用yaml文件）

kubectl apply -f xxx.yaml    
# 例如kubectl apply -f nginx.yaml   这里是如果没有则创建，如果有则变更，比create好用

删除一个yaml文件内资源，也可以是目录，目录内包含一组yaml文件

kubectl delete -f xxx.yaml    
# 例如kubectl delete -f nginx.yaml

查看资源状态，比如有一组deployment内的pod没起来，一般用于pod调度过程出现的问题排查

kubectl describe pod pod名     
# 先用kubectl get pod查看  有异常的复制pod名使用这个命令

查看pod日志，用于pod状态未就绪的故障排查

kubectl logs pod名     
# 先用kubectl get pod查看  有异常的复制pod名使用这个命令

查看node节点或者是pod资源（cpu，内存资源）使用情况

kubectl top 组件名    
 # 例如kubectl top node  kubectl top pod

进入pod内部

kubectl exec -ti pod名 /bin/bash      
# 先用kubectl get pod查看  有需要的复制pod名使用这个命令

总结：

kubernetes的本质是一组服务器集群，它可以在集群的每个节点上运行特定的程序，来对节点中的容器进行管理。目的是实现资源管理的自动化，主要提供了如下的主要功能：

• 自我修复：一旦某一个容器崩溃，能够在1秒中左右迅速启动新的容器
• 弹性伸缩：可以根据需要，自动对集群中正在运行的容器数量进行调整
• 服务发现：服务可以通过自动发现的形式找到它所依赖的服务
• 负载均衡：如果一个服务起动了多个容器，能够自动实现请求的负载均衡
• 版本回退：如果发现新发布的程序版本有问题，可以立即回退到原来的版本
• 存储编排：可以根据容器自身的需求自动创建存储卷

Kubernetes核心组件

Kubernetes Master是集群的主要控制单元，用于管理其工作负载并指导整个系统的通信。Kubernetes控制平面由各自的进程组成，每个组件都可以在单个主节点上运行，也可以在支持high-availability clusters的多个主节点上运行。

组件名称	作用
etcd	保存整个集群的状态；
apiserver	提供了资源操作的唯一入口，并提供认证、授权、访问控制、API注册和发现等机制；
controller manager	负责维护集群的状态，比如故障检测、自动扩展、滚动更新等；
scheduler	负责资源的调度，按照预定的调度策略将Pod调度到相应的机器上；
kubelet	负责维护容器的生命周期，同时也负责Volume（CVI）和网络（CNI）的管理；
Container runtime	负责镜像管理以及Pod和容器的真正运行(CRI);
kube-proxy	负责为Service提供cluster内部的服务发现和负载均衡；

其他组件

组件名称	作用
kube-dns	负责为整个集群提供DNS服务
Ingress Controller	为服务提供外网入口
Heapster	提供资源监控
Dashboard	提供GUI
Federation	提供跨可用区的集群
Fluentd-elasticsearch	提供集群日志采集、存储与查