MacOS版-通过搭建MySQL掌握k8s(Kubernetes)重要概念(上):网络与持久卷

前言

本文参考自《通过搭建MySQL掌握k8s(Kubernetes)重要概念(上):网络与持久卷》

由于原文博主是使用windows的虚拟机Vagrant的minikube,和mac OS有所不同。另外原博主的方法下载mysql:5.7的镜像下载不了,导致后面配置文件也不一样,所以有了这篇文章。

docker mysql:5.7镜像拉取参考自《docker拉取mysql镜像遇到到问题及解决》

侵删。

准备工作

  1. mac OS 系统版本10.15.4,
  2. 安装docker desktop和k8s,可参考阿里云的https://github.com/AliyunContainerService/k8s-for-docker-desktop/tree/v1.16.5
  3. docker 版本19.03.8,k8s版本
➜ kubectl version  
Client Version: version.Info{
     Major:"1", Minor:"16+", GitVersion:"v1.16.6-beta.0", GitCommit:"e7f962ba86f4ce7033828210ca3556393c377bcc", GitTreeState:"clean", BuildDate:"2020-01-15T08:26:26Z", GoVersion:"go1.13.5", Compiler:"gc", Platform:"darwin/amd64"}
Server Version: version.Info{
     Major:"1", Minor:"16+", GitVersion:"v1.16.6-beta.0", GitCommit:"e7f962ba86f4ce7033828210ca3556393c377bcc", GitTreeState:"clean", BuildDate:"2020-01-15T08:18:29Z", GoVersion:"go1.13.5", Compiler:"gc", Platform:"linux/amd64"}
	应用程序分成两种,无状态和有状态的。一般的前段和后端程序都是无状态的,而数据库是有状态的,他需要把数据存储起来,这样即使断电,数据也不会丢失。要创建有状态的程序,还需要引入另外一些k8s概念。它们虽然不是核心,但也很重要,共有三个,持久卷,网络和参数配置。掌握了这些之后,基本概念就已经做到了全覆盖,k8s就已经入门了。我们通过搭建MySQL来熟悉这些k8s概念。容器本身是无状态的,一旦出现问题它会被随时销毁,它存储的数据也就丢失了。MySQL需要一个能保存数据的持久层,在容器被销毁之后仍然存在,k8s叫它持久卷。

1、创建和验证MySQL镜像

通过国内镜像daocloud.io/library库下载,下载速度快到感人!

docker pull daocloud.io/library/mysql:5.7

查看下载好的镜像:

docker images|grep mysql
REPOSITORY                    TAG       IMAGE ID     CREATED          SIZE
daocloud.io/library/mysql    5.7     718a6da099d8    2 weeks ago     448MB                                                                        

需要注意的是:mysql镜像名的前缀不能忘记,否则报错!
完整的名字: daocloud.io/library/mysql:5.7

运行:

docker run --name test-mysql -p 3306:33060 -e MYSQL_ROOT_PASSWORD=root -d -it --net host daocloud.io/library/mysql:5.7

“root”是根(root)用户的password,这里是在创建MySQL容器时指定“root”用户的password。“test-MySQL”是容器的名字。“daocloud.io/library/mysql:5.7”用的是daocloud镜像库里的“MySQL”5.7版本。这次没有用最新的8.0版,因为新版跟以前的客户端不兼容,需要修改很多东西。所用的镜像是全版的Linux,因而文件比较大,有400M。

容器建好了之后,键入“docker logs test-mysql”,查看日志。“docker ps”, 查看容器状态。

docker ps -a|grep mysql  
3b6ec96e49d0    daocloud.io/library/mysql:5.7   "docker-entrypoint.s…"   3 minutes ago       Up 3 minutes    test-mysql

进入docker内部,并登录mysql查看:

docker exec -it 3b6ec96e49d0 bash
mysql -u root -p

输入密码“root”,即可进入正常的mysql控制台。操作完毕后,键入两个“exit”退出到os的terminal。

2、在k8s上安装MySQL

在k8s上安装MySQL分成三个部分,创建部署文件,创建服务文件和安装测试。

2.1 部署(Deployment)文件

下面是部署配置文件。在上一篇文章中已经详细讲解了文件格式,所有的k8s的配置文件格式都是相同的。“template”之上是部署配置,从“template”向下是Pod配置。从“containers”开始是Pod里面的容器配置。“env:”是环境变量,这里通过环境变量来设置数据库的用户名和口令,后面还会详细讲解。MySQL的端口是“3306”

apiVersion: apps/v1
kind: Deployment  # 类型是部署 
metadata:
  name: mysql-deployment  # 对象的名字
spec:
  selector:
    matchLabels:
      app: mysql #用来绑定label是“mysql”的Pod
  strategy:
    type: Recreate
  template:   # 开始定义Pod 
    metadata:
      labels:
        app: mysql  #Pod的Label,用来标识Pod
    spec:
      containers: # 开始定义Pod里面的容器
        - image: daocloud.io/library/mysql:5.7 # image这块一定要写成daocloud的
          name: mysql-con
          imagePullPolicy: Never
          env:   #  定义环境变量
            - name: MYSQL_ROOT_PASSWORD  #  环境变量名
              value: root  #  环境变量值
            - name: MYSQL_USER
              value: dbuser
            - name: MYSQL_PASSWORD
              value: dbuser
          args: ["--default-authentication-plugin=mysql_native_password"]
          ports:
            - containerPort: 3306 # mysql端口 
              name: mysql

2.2 服务(Service)文件

下面是服务配置文件,这个与上一篇讲的配置基本相同,这里就不解释了。

apiVersion: v1
kind: Service
metadata:
  name: mysql-service
  labels:
    app: mysql
spec:
  type: NodePort
  selector:
      app: mysql
  ports:
  - protocol : TCP
    nodePort: 30306
    port: 3306
    targetPort: 3306 

2.3 安装测试:

有了配置文件后,下面就开始创建MySQL。在创建时要按照顺序,依次进行,先从最底层的对象开始创建。

创建部署和服务:

kubectl apply -f mysql-deployment.yaml
kubectl apply -f mysql-service.yaml

查看部署:

kubectl get deployment

查看服务:

kubectl get service

“mysql-service”的端口(PORT(S))有两个,“3306”是k8s内部端口,“30306”是外部端口。由于“NodePort”已经打开了对外端口,这时就可以在os控制台上通过“30306”端口访问MySQL。

test mysql -h localhost -P 30306 --protocol=tcp -u root -p
Enter password: 
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 3
Server version: 5.7.31 MySQL Community Server (GPL)

Copyright (c) 2000, 2020, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> 

下一步就可以用图形客户端来访问MySQL了。就用30306端口来访问MySQL。

3、网络

这里的网络有两层含义,一层是k8s网络,就是让k8s内部服务之间可以互相访问,并且从k8s集群外部可以访问它内部的服务。另一层是宿主机(笔记本)和虚机之间的网路,就是在宿主机上可以访问虚机。这两层都通了之后,就可以在宿主机直接访问k8s集群里面的MySQL。

3.1 k8s网络:

k8s的网络也有两层含义,一个是集群内部的,k8s有内部DNS,可以通过服务名进行寻址。另一个是从集群外部访问集群内部服务,一共有四种方式,详情请见“Kubernetes NodePort vs LoadBalancer vs Ingress? When should I use what?”

3.1.1 LoadBalancer

3.1.2 NodePort:

这种方法可以在每个Node上开放一个对外端口,每一个指向这个端口的请求都被转发给一个服务。它的好处是你可以指定一个固定的端口(端口的取值范围只能是30000–32767),这样我在笔记本上访问MySQL时就不用更换端口了。 如果你不指定,系统会随机分配一个。它的缺点是每个端口只能有一个服务,而且端口取值受限制,因此不适合生产环境。

3.1.3 ClusterIP

这个只能在k8s集群内部寻址。

3.1.4 Ingress

这是推荐的方法,一般在生产环境中使用。Load balancer的问题是每一个服务都要有一个Load balancer,服务多了之后会很麻烦,这时就会用Ingress,它的缺点是配置起来比较复杂。Minikube自带了一个基于Nginx的Ingress控制器,只需运行“minikube addons enable ingress”,就行了。但Ingress的设置较复杂,因此这里没有用它。

3.2 虚拟机网络(略)

4 创建持久卷(PersistentVolume)

k8s卷的概念包括卷和持久卷。

4.0.1 卷(volume):

卷是k8s的存储概念,它依附于Pod,不能单独存在。但它不是在容器层。因此如果容器被重新启动,卷仍然在。但如果Pod重新启动,卷就丢失了。如果一个Pod里有多个容器,那么这些容器共享Pod的卷。你可以把卷看成是一个目录,里面可以存储各种文件。k8s支持各种类型的卷,例如本地文件系统和各种云存储。

4.0.2 持久卷(PersistentVolume):

是对卷的一个封装,目的是为了更好地管理卷。它的生命周期不需要与Pod绑定,它可以独立于Pod存在。

4.0.3 持久卷申请(PersistentVolumeClaim):

是对持久卷资源的一个申请,你可以申请特定的存储容量的大小和访问模式,例如读写模式或只读模式。k8s会根据持久卷申请分配适合的持久卷,如果没有合适的,系统会自动创建一个。持久卷申请是对持久卷的一个抽象,就像编程里的接口(Interface),它可以有不同的具体实现(持久卷)。例如,阿里云和华为云支持的存储系统不同,它生成的持久卷也不相同。持久卷是与特定的存储实现绑定的。那你要把程序从阿里云移植到华为云,怎么保证配置文件的兼容性呢?你就用持久卷申请来做这个接口,它只规定存储容量大小和访问模式,而由阿里云和华为云自动生成各自云里满足这个接口需求的持久卷. 不过,它还有一个限制条件,那就是持久卷申请和持久卷的StorageClass需要匹配,这使它没有接口灵活。后面会详细讲解。

4.0.4 动态持久卷:

在这种情况下,你只需创建持久卷申请(不需要单独创建持久卷),然后把持久卷申请与部署绑定。系统会按照持久卷申请自动创建持久卷。下面是持久卷申请配置文件。其中“storage:1Gi”,是指申请的空间大小是1G。

4.1 持久卷申请配置文件:

mysql-pvc.yaml :

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mysql-pvc
spec:
  storageClassName: manual
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 100Mi

4.2 挂载持久卷申请的部署:

下面是挂载了持久卷申请的部署配置文件mysql-deployment-pvc.yaml。它通过把持久卷申请当做持久卷来使用,与Pod进行绑定。请阅读文件里有关持久卷的注释。

apiVersion: apps/v1
kind: Deployment  # 类型是部署 
metadata:
  name: mysql-deployment  # 对象的名字
spec:
  selector:
    matchLabels:
      app: mysql #用来绑定label是“mysql”的Pod
  strategy:
    type: Recreate
  template:   # 开始定义Pod 
    metadata:
      labels:
        app: mysql  #Pod的Label,用来标识Pod
    spec:
      containers: # 开始定义Pod里面的容器
        - image: daocloud.io/library/mysql:5.7
          name: mysql-con
          imagePullPolicy: Never
          env:   #  定义环境变量
            - name: MYSQL_ROOT_PASSWORD  #  环境变量名
              value: root  #  环境变量值
            - name: MYSQL_USER
              value: dbuser
            - name: MYSQL_PASSWORD
              value: dbuser
          args: ["--default-authentication-plugin=mysql_native_password"]
          ports:
            - containerPort: 3306 # mysql端口 
              name: mysql 
          volumeMounts: #挂载Pod上的卷到容器
            - name: mysql-persistent-storage #Pod上卷的名字,与“volumes”名字匹配
              mountPath: /var/lib/mysql #挂载的Pod的目录
      volumes: #挂载持久卷到Pod
        - name: mysql-persistent-storage #持久卷名字,与“volumeMounts”名字匹配
          persistentVolumeClaim:
            claimName: mysql-pvc #持久卷申请名字

这里只指定了Pod的挂载目录,并没有指定虚拟机(宿主机)的目录,后面会讲到如何找到虚拟机的目录(系统自动分配挂载目录)。

4.3 运行部署:

键入“kubectl apply -f mysql-pvc.yaml”创建持久卷申请,在创建它的同时,系统自动创建持久卷。

查看持久卷申请

kubectl get pvc
NAME        STATUS    VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mysql-pvc   Pending                                      manual         13s
  • 此时发现系统mysql-pvc的status是Pending,为什么呢?原来是系统并未如我们所想的自动创建了持久卷pv,我们需要自己创建。新建文件mysql-pv.yaml,输入:
apiVersion: v1
kind: PersistentVolume
metadata:
  name: mysql-pv
  labels: 
    type: local
spec:
  storageClassName: manual
  capacity:
    storage: 1Gi # 大小1G
  accessModes:
    - ReadWriteOnce
  hostPath:
    path: "/tmp/kube" # 文件实际存放位置

键入“kubectl apply -f mysql-pv.yaml”创建持久卷,查看发现俩个都有了:

test kubectl get pv
NAME       CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS   CLAIM               STORAGECLASS   REASON   AGE
mysql-pv   1Gi        RWO            Retain           Bound    default/mysql-pvc   manual                  13s
➜  test kubectl get pvc
NAME        STATUS   VOLUME     CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mysql-pvc   Bound    mysql-pv   1Gi        RWO            manual         4m50s

查看持久卷申请详细信息

kubectl describe pv mysql-pv
kubectl describe pvc mysql-pvc

新开一个窗口,查看MySQL目录信息

cd /tmp/kube
ls

4.4 持久卷的回收模式:

当持久卷和持久卷申请被删除后,它有三种回收模式。
保持(Retain):当持久卷申请被删除后,持久卷仍在。你可以手动回收持久卷里的数据。
删除(Delete):持久卷申请和持久卷都被删除,底层存储的数据也会被删除。当使用动态持久卷时,缺省的模式是Delete。当然,你可以在持久卷被创建之后修改它的回收模式。
回收(Recycle):这种方式已经不推荐使用了,建议用Retain代替。

4.5 静态持久卷:

动态持久卷的一个问题是它的缺省回收模式是“删除”,这样当虚机重新启动后,持久卷会被删除。当你重新运行部署时,k8s会创建一个新的MySQL,这样原来MySQL里的新建信息就会丢失,这是我们不愿意看到的。虽然你可以手动修改回收方式为“保持”,但还是要手动回收原来持久卷里的数据。
一个解决办法是把持久卷建在宿主机上,这样即使虚机出了问题被重新启动,MySQL里的新建信息依然不会丢失。如果是在云上,就会有专门的的存储层,如果是本地,大致有三种方式:

Local: 把存储从宿主机挂载到k8s集群上. 详情请参见:“Volumes”.
HostPath:也是把存储从宿主机挂载到k8s集群上,但它有许多限制,例如只支持单节点(Node),而且只支持“ReadWriteOnce”模式。详情请参见: “hostPath as volume in kubernetes”.
NFS:网络文件系统,这种是最灵活的,但需要安装NFS服务器。详情请参见:“Kubernetes Volumes Guide”.

我选择了比较简单的“Local”方式。在这种方式下,必须单独创建持久卷,不能 只创建持久卷申请而让系统自动创建持久卷。

下面是使用“Local”方式的配置文件,它把持久卷和持久卷申请写在了一个文件里。当用“Local”方式时,需要设置“nodeAffinity”部分,其中“values:- minikube” 的“Minikube”是k8s集群Node的名字,“Minikube”只支持一个Node,既是“Master Node”,又是“Worker Node”。

新增文件mysql-pv-pvc.yaml,持久卷和申请的配置文件:

apiVersion: v1
kind: PersistentVolume
metadata:
  name: mysql-pv-local
spec:
  capacity:
    storage: 1Gi
  volumeMode: Filesystem
  accessModes:
    - ReadWriteOnce
  storageClassName:  standard #持久卷存储类型,它需要与持久卷申请的类型相匹配
  local:
    path: /tmp/kube/mysql-local #宿主机的目录
  nodeAffinity:
    required:
      nodeSelectorTerms:
        - matchExpressions:
            - key: kubernetes.io/hostname
              operator: In
              values:
                - docker-desktop # Node的名字
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mysql-pv-claim-local
  labels:
    app: mysql
spec:
  accessModes:
    - ReadWriteOnce
  # storageClassName:  # 这里的存储类型注释掉了
  resources:
    requests:
      storage: 1Gi #1 GB

如果不知道Node名字,可用如下命令查看:

kubectl get node
NAME             STATUS   ROLES    AGE   VERSION
docker-desktop   Ready    master   9d    v1.16.6-beta.0

改用静态持久卷之后,只有持久卷配置文件发生了变化,部署和服务的配置文件没有变。重新运行持久卷和部署,成功之后,即使重启虚拟机,MySQL里面的新建内容也没有丢失。

注意这里storageClassName的用法。k8s规定持久卷和持久卷申请的storageClassName必须匹配,这时才会把持久卷分配给持久卷申请。我们这里的持久卷申请没有指定storageClassName,这时系统会使用缺省的storageClass。

查看是否安装了缺省的storageClass

kubectl get sc
NAME                 PROVISIONER          AGE
hostpath (default)   docker.io/hostpath   9d

查看缺省的storageClass详细信息

kubectl describe sc
Name:            hostpath
IsDefaultClass:  Yes
Annotations:     kubectl.kubernetes.io/last-applied-configuration={
     "apiVersion":"storage.k8s.io/v1","kind":"StorageClass","metadata":{
     "annotations":{
     "storageclass.kubernetes.io/is-default-class":"true"},"name":"hostpath"},"provisioner":"docker.io/hostpath","reclaimPolicy":"Delete","volumeBindingMode":"Immediate"}
,storageclass.kubernetes.io/is-default-class=true
Provisioner:           docker.io/hostpath
Parameters:            <none>
AllowVolumeExpansion:  <unset>
MountOptions:          <none>
ReclaimPolicy:         Delete
VolumeBindingMode:     Immediate
Events:                <none>

从这里可以看出,安装了缺省的storageClass,它的名字是“hostpath”。上面的持久卷申请里没有指定storageClass,因此系统使用缺省的storageClass与之匹配,而上面的持久卷的storageClassName是“hostpath”,正好能配上。详情请见“Dynamic Provisioning and Storage Classes in Kubernetes”

5 后记

5.1 可登入k8s的管理后台查看我们刚才创建的mysql

http://localhost:8001/api/v1/namespaces/kubernetes-dashboard/services/https:kubernetes-dashboard:/proxy/#/overview?namespace=default

MacOS版-通过搭建MySQL掌握k8s(Kubernetes)重要概念(上):网络与持久卷_第1张图片
显示出我们刚才创建的deployment、pods和pv、pvc等。

5.2 创建重名PV或PVC

当原来的PV或PVC还在,而你又创建了一个新的PV, 并与原来的重名,则会得到如下错误:
The persistentvolumeclaim “mysql-pv-claim” is invalid: spec: forbidden: is immutable after creation except resources.requests for bound claims
这时,你需要将原来的PV或PVC删掉,再重新创建新的。

5.3 彻底删除

kubectl delete service mysql-service
kubectl delete deployment mysql-deployment
kubectl delete pvc mysql-pvc
kubectl delete pv mysql-pv

你可能感兴趣的:(kubernetes,MySQL,docker,kubernetes,mac,os,x)