k8s存储卷
目录
1、emptyDir存储卷
2、hostPath存储卷
3、nfs共享存储卷
4、PVC 和 PV
4.1 PV和PVC之间的相互作用遵循这个生命周期：
4.2 PV的状态
4.3 一个PV从创建到销毁的具体流程如下：
静态PVC：
动态PVC
1、emptyDir存储卷
当Pod被分配给节点时，首先创建emptyDir卷，并且只要该Pod在该节点上运行，该卷就会存在。正如卷的名字所述，它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件，尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时，emptyDir中的数据将被永久删除。
[root@master01 juan]# vim pod-emptydir.yamlapiVersion: v1
kind: Pod
metadata:
name: pod-emptydir
namespace: default
labels:
app: myapp
tier: frontend
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
imagePullPolicy: IfNotPresent
ports:
- name: http
containerPort: 80
#定义容器挂载内容
volumeMounts:
#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
- name: html
#挂载至容器中哪个目录
mountPath: /usr/share/nginx/html/
- name: busybox
image: busybox:latest
imagePullPolicy: IfNotPresent
volumeMounts:
- name: html
#在容器内定义挂载存储名称和挂载路径
mountPath: /data/
command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
#定义存储卷
volumes:
#定义存储卷名称
- name: html
#定义存储卷类型
emptyDir: {}
[root@master01 juan]# kubectl apply -f pod-emptydir.yaml
pod/pod-emptydir created
[root@master01 juan]# kubectl get pods -owide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d13h 10.244.2.121 node02
myapp20 1/1 Running 0 3d13h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 65s 10.244.1.122 node01
2、hostPath存储卷
hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。
hostPath可以实现持久存储，但是在node节点故障时，也会导致数据的丢失。
在 node01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node01.yyy.com' > /data/pod/volume1/index.html在 node02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node02.yyy.com' > /data/pod/volume1/index.html创建 Pod 资源
vim pod-hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-hostpath
namespace: default
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
volumeMounts:
- name: html
mountPath: /usr/share/nginx/html
readOnly: false
volumes:
- name: html
hostPath:
path: /data/pod/volume1
type: DirectoryOrCreate
kubectl apply -f pod-hostpath.yaml访问测试
[root@master01 juan]# kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d14h 10.244.2.121 node02
myapp20 1/1 Running 0 3d14h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 59m 10.244.1.122 node01
pod-hostpath2 1/1 Running 0 10s 10.244.1.124 node01
[root@master01 juan]# curl 10.244.1.124
node01.yyy.com
删除pod，再重建，验证是否依旧可以访问原来的内容
kubectl delete -f pod-hostpath.yaml
kubectl apply -f pod-hostpath.yaml [root@master01 juan]# kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d14h 10.244.2.121 node02
myapp20 1/1 Running 0 3d14h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 58m 10.244.1.122 node01
pod-hostpath2 1/1 Running 0 77s 10.244.2.122 node02
[root@master01 juan]# curl 10.244.2.122
node02.yyy.com
3、nfs共享存储卷
在stor节点操作
在stor01节点上安装nfs，并配置nfs服务
mkdir /data/volumes -p
chmod 777 /data/volumes
[root@localhost opt]# vim /etc/exports
[root@localhost opt]# systemctl start rpcbind
[root@localhost opt]# systemctl start nfs
[root@localhost opt]# showmount -e
Export list for localhost.localdomain:
/data/volumes 192.168.11.0/24
master节点操作
[root@master01 juan]# vim pod-nfs-vol.yamlapiVersion: v1
kind: Pod
metadata:
name: pod-vol-nfs
namespace: default
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
volumeMounts:
- name: html
mountPath: /usr/share/nginx/html
volumes:
- name: html
nfs:
path: /data/volumes
server: 192.168.11.10（stor节点的IP）[root@master01 juan]# kubectl apply -f pod-nfs-vol.yaml
pod/pod-vol-nfs created[root@master01 juan]# kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d16h 10.244.2.121 node02
myapp20 1/1 Running 0 3d16h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 3h3m 10.244.1.122 node01
pod-hostpath2 1/1 Running 0 124m 10.244.1.124 node01
pod-vol-nfs 1/1 Running 0 2s 10.244.2.123 node02
4、PVC 和 PV
PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的，这个通常都是由运维工程师来定义。
PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。
PVC 的使用逻辑：在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。
上面介绍的PV和PVC模式是需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。
创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。
PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。
4.1 PV和PVC之间的相互作用遵循这个生命周期：
Provisioning（配置）---> Binding（绑定）---> Using（使用）---> Releasing（释放） ---> Recycling（回收）
●Provisioning，即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建
●Binding，将 PV 分配给 PVC
●Using，Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC
●Releasing，Pod 释放 Volume 并删除 PVC
●Reclaiming，回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除
4.2 PV的状态
根据这 5 个阶段，PV 的状态有以下 4 种：
●Available（可用）：表示可用状态，还未被任何 PVC 绑定
●Bound（已绑定）：表示 PV 已经绑定到 PVC
●Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
●Failed（失败）：表示该 PV 的自动回收失败
4.3 一个PV从创建到销毁的具体流程如下：
1、一个PV创建完后状态会变成Available，等待被PVC绑定。
2、一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。
3、Pod使用完后会释放PV，PV的状态变成Released。
4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略，Retain、Delete和Recycle。Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。Delete策略，K8S会自动删除该PV及里面的数据。Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。
静态PVC：
stor01节点：
[root@localhost volumes]# mkdir v{1,2,3,4,5}
[root@localhost volumes]# ls
index.html v1 v2 v3 v4 v5
[root@localhost volumes]# exportfs -arv
[root@localhost volumes]# showmount -e
查看node01或者node02或者master节点中的/etc/hosts地址映射文件是否添加了stor01节点的地址映射ip！！！
[root@master01 juan]# vim pv-demo.yamlapiVersion: v1
kind: PersistentVolume
metadata:
name: pv001
labels:
name: pv001
spec:
nfs:
path: /data/volumes/v1
server: stor01
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv002
labels:
name: pv002
spec:
nfs:
path: /data/volumes/v2
server: stor01
accessModes: ["ReadWriteOnce"]
capacity:
storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv003
labels:
name: pv003
spec:
nfs:
path: /data/volumes/v3
server: stor01
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv004
labels:
name: pv004
spec:
nfs:
path: /data/volumes/v4
server: stor01
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv005
labels:
name: pv005
spec:
nfs:
path: /data/volumes/v5
server: stor01
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 5Gi[root@master01 juan]# kubectl apply -f pv-demo.yaml
persistentvolume/pv001 created
persistentvolume/pv002 created
persistentvolume/pv003 created
persistentvolume/pv004 created
persistentvolume/pv005 created
[root@master01 juan]# kubectl get pv
NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE
pv001 1Gi RWO,RWX Retain Available 7s
pv002 2Gi RWO Retain Available 7s
pv003 2Gi RWO,RWX Retain Available 7s
pv004 4Gi RWO,RWX Retain Available 6s
pv005 5Gi RWO,RWX Retain Available 6s
[root@master01 juan]# vim pod-vol-pvc.yaml
[root@master01 juan]# kubectl apply -f pod-vol-pvc.yaml
persistentvolumeclaim/mypvc created
[root@master01 juan]# kubectl get pv
NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE
pv001 1Gi RWO,RWX Retain Available 89s
pv002 2Gi RWO Retain Available 89s
pv003 2Gi RWO,RWX Retain Bound default/mypvc 89s
pv004 4Gi RWO,RWX Retain Available 88s
pv005 5Gi RWO,RWX Retain Available 88s
[root@master01 juan]# kubectl get pvc
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
mypvc Bound pv003 2Gi RWO,RWX 22s
[root@localhost volumes]# hostnamectl set-hostname stor01
[root@localhost volumes]# cd /data/volumes/v3/
[root@localhost v3]# echo "welcome to use pv3" > index.html
[root@localhost v3]# ls
index.html
[root@localhost v3]# pwd
/data/volumes/v3
#这里最后一行发现容器没有启动成功，发现原因是有一个node节点的/etc/hosts地址映射文件中没有添加stor01的IP,添加即可。
master、node01、node02节点都要添加!!!!
[root@master01 juan]# kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d16h 10.244.2.121 node02
myapp20 1/1 Running 0 3d16h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 3h23m 10.244.1.122 node01
pod-hostpath2 1/1 Running 0 144m 10.244.1.124 node01
pod-vol-nfs 1/1 Running 0 20m 10.244.2.123 node02
pod-vol-pvc 0/1 ContainerCreating 0 48s node01
#添加上/etc/hosts里的地址映射IP后，成功！！！
[root@master01 juan]# kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
myapp2 1/1 Running 0 3d16h 10.244.2.121 node02
myapp20 1/1 Running 0 3d16h 10.244.2.120 node02
pod-emptydir 2/2 Running 0 3h30m 10.244.1.122 node01
pod-hostpath2 1/1 Running 0 151m 10.244.1.124 node01
pod-vol-nfs 1/1 Running 0 27m 10.244.2.123 node02
pod-vol-pvc 1/1 Running 0 8m5s 10.244.1.125 node01
[root@master01 juan]# curl 10.244.1.125
welcome to use pv3
[root@master01 juan]# curl 10.244.1.125
welcome to use pv3
[root@master01 juan]# curl 10.244.1.125
welcome to use pv3
动态PVC
搭建 StorageClass + NFS，实现 NFS 的动态 PV 创建
Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。详见：https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。
Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 external-storage 提供的 ceph.com/cephfs）。
1、在stor01节点上安装nfs，并配置nfs服务
mkdir /data/volumes
chmod 777 /data/volumesvim /etc/exports
systemctl restart nfs2、在master节点创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则
vim nfs-client-rbac.yaml#创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
name: nfs-client-provisioner-clusterrole
rules:
- apiGroups: [""]
resources: ["persistentvolumes"]
verbs: ["get", "list", "watch", "create", "delete"]
- apiGroups: [""]
resources: ["persistentvolumeclaims"]
verbs: ["get", "list", "watch", "update"]
- apiGroups: ["storage.k8s.io"]
resources: ["storageclasses"]
verbs: ["get", "list", "watch"]
- apiGroups: [""]
resources: ["events"]
verbs: ["list", "watch", "create", "update", "patch"]
- apiGroups: [""]
resources: ["endpoints"]
verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
name: nfs-client-provisioner
namespace: default
roleRef:
kind: ClusterRole
name: nfs-client-provisioner-clusterrole
apiGroup: rbac.authorization.k8s.io
kubectl apply -f nfs-client-rbac.yaml3、使用 Deployment 来创建 NFS Provisioner
NFS Provisione(即 nfs-client)，有两个功能：一个是在 NFS 共享目录下创建挂载点(volume)，另一个则是将 PV 与 NFS 的挂载点建立关联。
#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：
vim /etc/kubernetes/manifests/kube-apiserver.yamlspec:
containers:
- command:
- kube-apiserver
- --feature-gates=RemoveSelfLink=false #添加这一行
- --advertise-address=192.168.80.20
......kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system
kubectl get pods -n kube-system | grep apiserver
#创建 NFS Provisioner
vim nfs-client-provisioner.yamlkind: Deployment
apiVersion: apps/v1
metadata:
name: nfs-client-provisioner
spec:
replicas: 1
selector:
matchLabels:
app: nfs-client-provisioner
strategy:
type: Recreate
template:
metadata:
labels:
app: nfs-client-provisioner
spec:
serviceAccountName: nfs-client-provisioner #指定Service Account账户
containers:
- name: nfs-client-provisioner
image: quay.io/external_storage/nfs-client-provisioner:latest
imagePullPolicy: IfNotPresent
volumeMounts:
- name: nfs-client-root
mountPath: /persistentvolumes
env:
- name: PROVISIONER_NAME
value: nfs-storage #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
- name: NFS_SERVER
value: stor01 #配置绑定的nfs服务器
- name: NFS_PATH
value: /opt/k8s #配置绑定的nfs服务器目录
volumes: #申明nfs数据卷
- name: nfs-client-root
nfs:
server: stor01
path: /opt/k8skubectl apply -f nfs-client-provisioner.yaml
上传nfs-client-provisioner.tar安装包到node01、node02节点中
并使用
docker load -i > nfs-client-provisioner.tar
docker images4、创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联
vim nfs-client-storageclass.yamlapiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: nfs-client-storageclass
provisioner: nfs-storage #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
archiveOnDelete: "false" #false表示在删除PVC时不会对数据进行存档，即删除数据kubectl apply -f nfs-client-storageclass.yaml[root@master01 dongtaipvc]# kubectl get storageclass
NAME PROVISIONER RECLAIMPOLICY VOLUMEBINDINGMODE ALLOWVOLUMEEXPANSION AGE
nfs-client-storageclass nfs-storage Delete Immediate false 84m
5、创建 PVC 和 Pod 测试
vim test-pvc-pod.yamlapiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: test-nfs-pvc
spec:
accessModes:
- ReadWriteMany
storageClassName: nfs-client-storageclass #关联StorageClass对象
resources:
requests:
storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
name: test-storageclass-pod
spec:
containers:
- name: busybox
image: busybox:latest
imagePullPolicy: IfNotPresent
command:
- "/bin/sh"
- "-c"
args:
- "sleep 3600"
volumeMounts:
- name: nfs-pvc
mountPath: /mnt
restartPolicy: Never
volumes:
- name: nfs-pvc
persistentVolumeClaim:
claimName: test-nfs-pvc #与PVC名称保持一致kubectl apply -f test-pvc-pod.yamlPVC 通过 StorageClass 自动申请到空间
查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上
进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件
发现 NFS 服务器上存在，说明验证成功
