Kubernetes K8S之通过helm部署metrics-server与HPA详解
Kubernetes K8S之通过helm部署metrics-server与 Horizontal Pod Autoscaling (HPA)详解
主机配置规划
| 服务器名称(hostname) | 系统版本 | 配置 | 内网IP | 外网IP(模拟) |
|---|---|---|---|---|
| k8s-master | CentOS7.7 | 2C/4G/20G | 172.16.1.110 | 10.0.0.110 |
| k8s-node01 | CentOS7.7 | 2C/4G/20G | 172.16.1.111 | 10.0.0.111 |
| k8s-node02 | CentOS7.7 | 2C/4G/20G | 172.16.1.112 | 10.0.0.112 |
使用Helm部署metrics-server
正常情况下，如果没有部署metrics-server那么我们使用如下命令是收集不到信息的
kubectl top node
kubectl top pod -A
首先完成「Kubernetes K8S之Helm部署、使用与示例」。
从Heapster的 GitHub地址：https://github.com/kubernetes-retired/heapster 中可以看到，heapster 已经 RETIRED【过时】。从Kubernetes 1.12开始将从Kubernetes各种安装脚本中移除。Kubernetes推荐使用metrics-server。我们这里使用Helm来部署metrics-server。
GitHub地址：
https://github.com/kubernetes-sigs/metrics-server
metrics-server-amd64镜像下载
# 在集群所有节点都需要执行
docker pull registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6
docker tag registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6 k8s.gcr.io/metrics-server-amd64:v0.3.6
docker rmi registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6
metrics-server.yaml文件
[root@k8s-master helm]# pwd
/root/k8s_practice/helm
[root@k8s-master helm]#
[root@k8s-master helm]# cat metrics-server.yaml
args:
- --logtostderr
- --kubelet-insecure-tls
- --kubelet-preferred-address-types=InternalIP
通过helm部署metrics-server
# 查询metrics-server的各个版本信息
helm search stable/metrics-server -l
# 通过helm部署metrics-server并指定了版本
helm install stable/metrics-server --version 2.11.1 -n metrics-server --namespace kube-system -f metrics-server.yaml
查看helm和pod信息
[root@k8s-master ~]# helm list
NAME REVISION UPDATED STATUS CHART APP VERSION NAMESPACE
metrics-server 1 Mon Jul 20 10:06:58 2020 DEPLOYED metrics-server-2.11.1 0.3.6 kube-system
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get deploy -A | grep 'metrics-server'
kube-system metrics-server 1/1 1 1 94s
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get pod -A | grep 'metrics-server'
kube-system metrics-server-6796d97d6b-wvd48 1/1 Running 0 18s
现在使用下面的命令可以获取到关于集群Node节点和Pod的指标信息：
[root@k8s-master ~]# kubectl top node
NAME CPU(cores) CPU% MEMORY(bytes) MEMORY%
k8s-master 205m 10% 2122Mi 57%
k8s-node01 130m 6% 1060Mi 61%
k8s-node02 193m 9% 1093Mi 63%
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl top pod -A
NAMESPACE NAME CPU(cores) MEMORY(bytes)
default load-generator-57d5fb67c7-xx2wj 0m 0Mi
default php-apache-5db466758-k2vxj 1m 20Mi
kube-system coredns-6955765f44-c9zfh 5m 20Mi
kube-system coredns-6955765f44-lrz5q 5m 20Mi
kube-system etcd-k8s-master 21m 88Mi
………………
Horizontal Pod Autoscaling(HPA)
Horizontal Pod Autoscaling(HPA) 可以根据CPU利用率自动伸缩一个Replication Controller、Deployment或者ReplicaSet中的Pod数量。
案例镜像下载
# gcr.io/google_containers/hpa-example 在国外，这里我们下载国内镜像
# 在集群所有节点都需要执行【主要是node节点】
docker pull registry.cn-beijing.aliyuncs.com/google_registry/hpa-example
启动pod
kubectl run php-apache --image=registry.cn-beijing.aliyuncs.com/google_registry/hpa-example --requests=cpu=200m --expose --port=80
创建HPA控制器，相关算法参见如下地址：
# 官方地址：https://v1-17.docs.kubernetes.io/zh/docs/tasks/run-application/horizontal-pod-autoscale/
# 当pod中CPU使用率达50%就扩容。最小1个，最大10个
kubectl autoscale deployment php-apache --cpu-percent=50 --min=1 --max=10
此时查询相关信息
[root@k8s-master ~]# kubectl get hpa
NAME REFERENCE TARGETS MINPODS MAXPODS REPLICAS AGE
php-apache Deployment/php-apache 0%/50% 1 10 1 3m16s
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
default php-apache 1/1 1 1 10h
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
php-apache-5db466758-k2vxj 1/1 Running 0 8m8s 10.244.4.176 k8s-node01
增加负载
# 启动一个pod并进入一个终端
kubectl run -i --tty load-generator --image=registry.cn-beijing.aliyuncs.com/google_registry/myapp:v1 /bin/sh
# 再次进入pod【注意pod名称，根据实际情况修改】
kubectl exec -it load-generator-57d5fb67c7-xx2wj -- /bin/sh
# 在pod中循环访问
while true; do wget -q -O- http://php-apache.default.svc.cluster.local; done
如果需要多个终端访问，那么只需要修改tty终端名称【如：load-generator01】。进入后再次循环访问即可。
增加负载后【可能需要等会儿】，php-apache的pod数量达到了最大值10。此时的pod信息为：
[root@k8s-master ~]# kubectl get hpa
NAME REFERENCE TARGETS MINPODS MAXPODS REPLICAS AGE
php-apache Deployment/php-apache 465%/50% 1 10 10 10h
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
default php-apache 10/10 10 10 10h
[root@k8s-master ~]#
[root@k8s-master ~]# kubectl get pod
NAME READY STATUS RESTARTS AGE
load-generator-57d5fb67c7-xx2wj 1/1 Running 0 48m
load-generator02-6c857bf9b5-cfmhj 1/1 Running 1 22s
php-apache-5db466758-2jv4x 1/1 Running 0 5m13s
php-apache-5db466758-4cxxm 1/1 Running 0 5m28s
php-apache-5db466758-6vz2b 1/1 Running 0 5m13s
php-apache-5db466758-98sqk 1/1 Running 0 4m58s
php-apache-5db466758-hdvrs 1/1 Running 0 5m13s
php-apache-5db466758-k2vxj 1/1 Running 0 62m
php-apache-5db466758-srctq 1/1 Running 0 4m58s
php-apache-5db466758-vkr5d 1/1 Running 0 5m28s
php-apache-5db466758-vmhlv 1/1 Running 0 5m13s
php-apache-5db466758-x8kms 1/1 Running 0 5m28s
此时，如果我们停止负载访问压测，pod数量也不会立即降下来。而是过段时间后才会慢慢降下来。
这也是为了安全起见，防止由于网络原因或者间歇性流量突增、突降，导致pod回收太快后面流量上来后Pod数量不够。
相关阅读
1、Kubernetes K8S之Helm部署、使用与示例
2、Pod 水平自动伸缩
完毕！
