k8s的statefulset相信很多人都用过,在1.5之后才引入的,1.5之前用的是petset,关于petset在之前的老版本的paas开发中用的就是petset,很多不足的地方,等会儿会说到这点。petset也好,statefulset也好,都是为啦解决容器的有状态服务。下面就谈谈在用statefulset的时候的一些小疑惑和收获。
很多人都知道 volume、pvc(persistentVolumeClaim)、pv(persistentVolume)、statefulset,但是至于他们之间的关系应该有所了解,但是可能不是特别深入的了解。所以我想简单的说说他们之间的关系。
volume是pod中用来挂在文件到容器中用的,支持多种的volume类型挂在,其中包括hostpath,emptydir,ceph-rbd等,想要了解全部的挂载类型请阅读官网(https://v1-7.docs.kubernetes.io/docs/concepts/storage/volumes/),volume可以说是一个存储挂载的桥梁啦,可以通过volume关联中的persistentVolumeClaim关联pvc,然后用pvc关联的pv的存储
pv是用来向真正的存储服务器申请真正的存储资源的一个object,至于这个存储资源谁来用,那就是接下来说的pvc的职责所在。
pvc就是用来关联pv和pod的一个桥梁,当你创建啦pv的说话,如何使用它,就需要pvc来关联,两种方式:1. 在你容器中的volumeMount中指定对应的pvc的名字。2. 可以通过pod中volume关联中的persistentVolumeClaim关联pvc
statefulset就是对应的存储的真正消费者,关联pv的方式用pvc,在你容器中的volumeMount中指定对应的pvc的名字或者可以通过pod中volume关联中的persistentVolumeClaim关联pvc
方式1:
不通过volume的方式创建:
pv
piVersion: v1
kind: PersistentVolume
metadata:
name: datadir-aaaaa-0
spec:
accessModes:
- ReadWriteOnce
capacity:
storage: 512Mi
persistentVolumeReclaimPolicy: Retain
rbd:
fsType: ext4
image: xxxxxxx
keyring: /etc/ceph/ceph.client.admin.keyring
monitors:
- x.x.x.x:6789
- x.x.x.x:6789
- x.x.x.x:6789
pool: admin-pool
user: admin
statefulset
apiVersion: apps/v1beta1
kind: StatefulSet
metadata:
labels:
app: demo
name: aaaaaaaa
spec:
replicas: 1
selector:
matchLabels:
app: demo
serviceName: aaaaaaaa
template:
metadata:
labels:
app: demo
spec:
containers:
image: etcd:test
imagePullPolicy: IfNotPresent
name: aaaaaaaa1
resources:
limits:
memory: 256Mi
requests:
memory: 256Mi
terminationMessagePath: /dev/termination-log
volumeMounts:
- mountPath: /etcd/data
name: datadir
- mountPath: /etc
name: aaaaaaaa-yaowei
resources:
limits:
cpu: 100m
memory: 512Mi
requests:
cpu: 100m
memory: 512Mi
restartPolicy: Always
volumeClaimTemplates:
- metadata:
creationTimestamp: null
name: datadir //与 volumeMounts:中一个mount的name一致
spec:
accessModes:
- ReadWriteOnce
resources:
requests:
storage: 512Mi
使用volume方式:
pv
piVersion: v1
kind: PersistentVolume
metadata:
name: datadir-aaaaa-0
spec:
accessModes:
- ReadWriteOnce
capacity:
storage: 512Mi
persistentVolumeReclaimPolicy: Retain
rbd:
fsType: ext4
image: xxxxxxx
keyring: /etc/ceph/ceph.client.admin.keyring
monitors:
- x.x.x.x:6789
- x.x.x.x:6789
- x.x.x.x:6789
pool: admin-pool
user: admin
pvc
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: datadir-aaaaa-0
spec:
accessModes:
- ReadWriteOnce
resources:
requests:
storage: 512Mi
statefulset
apiVersion: apps/v1beta1
kind: StatefulSet
metadata:
labels:
app: demo
name: aaaaaaaa
spec:
replicas: 1
selector:
matchLabels:
app: demo
serviceName: aaaaaaaa
template:
metadata:
labels:
app: demo
spec:
containers:
image: etcd:test
imagePullPolicy: IfNotPresent
name: aaaaaaaa1
resources:
limits:
memory: 256Mi
requests:
memory: 256Mi
terminationMessagePath: /dev/termination-log
volumeMounts:
- mountPath: /etcd/data
name: datadir
- mountPath: /etc
name: aaaaaaaa-yaowei
resources:
limits:
cpu: 100m
memory: 512Mi
requests:
cpu: 100m
memory: 512Mi
restartPolicy: Always
volumes:
- name: datadir
persistentVolumeClaim:
claimName: datadir-aaaaa-0
说明
为什么方式一中不用手动的创建pvc呢?因为statefulset的controller在创建statefulset的时候,如果他的spec中有volumeClaimTemplates存在 则会自动的创建对应的pvc,所以不用手动的创建(petset源码中也是一样的处理),而在方式二中我们是以volume的形式去引用的pvc,statefulset的controller在创建statefulset的时候不会去创建对应的pvc,如果发现对应的pvc不存在,则statefulset创建会失败,所以必须手动的创建对应的pvc
一般使用规则
一般在使用statefulset的时候,会使用到pvc pv volume等,之前的方式都是手动的或者调用api去创建对应的pv等,pv和pvc的生命周期有系统管理员来手动的管理,浪费很多时间,而且还经常出错等,一般推介的方式是结合storageclass动态的创建pv,如果在结合方式一,那基本上是pvc,pv的创建都是有k8s自身来完成(前提是得在集群中提前创建对应的storagclass),用户只要在删除对应的pvc,k8s就能动态的删除对应的pv,而且不会造成pv的申请的存储大小的浪费,一个pvc关联一个pv,pvc申请多大存储的资源,就创建多大存储资源的pv,这样特别的方法,并且动态创建的pv默认是 recycle模式的 。