kubernetes 1.6版以上1.8版以下彈性伸縮HPA-Memory
一:前言
在kubernetes中,Pod是最基礎的排程單位,多個pod 可以組成一個集合,這個集合向外提供服務。這時候,我們需要以下兩種情形需要關注:
1)集合中的Pod可能會由於某種原因Fail,這時候需要某種機制能夠建立新的Pod以確保有足夠數量的Pod在執行。
2)Pod 的個數由訪問請求決定。即當前例項個數不足以滿足訪問請求時,需要增加例項個數,反之,需要通過某種策略減少例項數。
如果人工來實時監控例項的執行狀態,手動啟動新的pod以替代fail的pod,監控例項的負載情況,手動建立或者刪除pod,這個工作繁瑣且工作量大,好在kubernetes已經有相應的機制來應對這種變化。
本篇文章主要介紹在k8s1.6版本以上,k8s1.8版本一下,HPA基於CPU、Memory的彈性伸縮,採用heaspter收集的監控指標。
二:部署目標
- 執行一個php-apache-cpu例項
- 建立一個基於CPU彈性的HPA資源
- 對例項進行壓測
- 對HPA進行驗證
- 執行一個php-apache-memory例項
- 建立一個基於Memory彈性的HPA資源
- 對例項進行壓測
- 對HPA進行驗證
三:HPA原理圖 ##
Kubernetes有一個HPA(Horizontal Pod Autoscaler)的資源,可以實現基於CPU使用率的Pod自動伸縮的功能。HPA基於Master Node上的kube-controller-manager服務啟動引數–horizontal-pod-autoscaler-sync-period定義的時長(預設為30秒),週期性的檢測Pod的CPU使用率(需要事先安裝heapster)。如果需要設定–horizontal-pod-autoscaler-sync-period可以在Master Node上的/etc/default/kube-controller-manager中修改。
四:部署步驟
基於CPU的HPA
建立php-apache-cpu例項的Deployment和Service
通過kubectl 命令建立Deployment和Service.
命令如下:
kubectl run php-apache-cpu --image=gcr.io/google_containers/hpa-examplel:v1.0 --requests=cpu=200m --expose --port=80
service "php-apache-cpu" created
deployment "php-apache-cpu” created
建立HPA可以通過命令列和yaml檔案建立。
yaml檔案方式
通過kubectl create -f hpa-cpu-example.yaml檔案建立HPA.檔案內容如下:
apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler
metadata:
name: php-apache
namespace: default
spec:
scaleTargetRef:
apiVersion: v1
kind: Deployment
name: php-apache-cpu
minReplicas: 1
maxReplicas: 10
targetCPUUtilizationPercentage: 50
命令列方式:
kubectl autoscale deployment php-apache-cpu --cpu-percent=50 --min=1 --max=10
deployment "php-apache-cpu" autoscaled
檢視建立的hpa,結果發現當前的CPU使用率CURRENT顯示為waiting.
# kubectl get hpa php-apache-cpu
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-cpu Deployment/php-apache-cpu 50% <waiting> 1 10 8s
注意:有可能是由於heapster元件沒有安裝,也有可能是資料沒有檢測到,預設heapster採集時間為1分,需要稍等一會看一下狀態。
# kubectl get hpa php-apache-cpu
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-cpu Deployment/php-apache-cpu 50% 0% 1 10 60s
如果要檢視hpa的事件,kubectl describe hpa php-apache-cpu ,會出這些錯誤資訊
MetricsNotAvailableYet unable to get metrics for resource cpu: no metrics returned from heapster。
這種錯誤資訊需要稍等一會多看幾次,分析一下是什麼原因導致的,有可能只是時間差導致的。
對php-apache-cpu進行壓力測試
kubectl run -i --tty load-generator --image=busybox:latest /bin/sh #進入容器後執行一下命令
while true; do wget -q -O- http://php-apache-cpu.default.svc.cluster.local; done
壓測幾分鐘後檢視hpa狀態,如果cpu壓力超過了設定的閾值,可以停止壓測。
檢視hpa狀態:
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-cpu Deployment/php-apache-cpu 50% 200% 1 10 60s
狀態已經超過了閾值,此時檢視pod,pod的數量已經增加了。
[email protected]:# kubectl get pods
NAME READY STATUS RESTARTS AGE
load-generator-535521892-scxsg 1/1 Running 0 6d
ache-1czu1 1/1 Running 0 6d
php-apache-cpu-a4g4x 1/1 Running 0 6d
php-apache-cpu-d2nn1 1/1 Running 0 6d
php-apache-cpu-epnpf 1/1 Running 0 6d
php-apache-cpu-ffuhk 1/1 Running 0 6d
php-apache-cpu-g78ms 1/1 Running 0 6d
php-apache-cpu-nglin 1/1 Running 0 6d
php-apache-cpu-sxz5y 1/1 Running 0 7d
php-apache-cpu-t7s8e 1/1 Running 0 6d
php-apache-cpu-v7zxm 1/1 Running 0 6d
當停止壓力測試之後,過一段時間,Pod數量又會恢復到1。
基於Memory的HPA
建立php-apache-memory例項的Deployment和Service
通過kubectl 命令建立Deployment和Service.
命令如下:
kubectl run php-apache-mem --image=gcr.io/google_containers/hpa-examplel:v1.0 --requests=cpu=200mi --expose --port=80
service "php-apache-mem" created
deployment "php-apache-mem" created
建立HPA資源
通過autoscaling/v2alpha1獲取yaml檔案,通過kube-adm安裝的kubernetes,預設是不支援此API的,在安裝時需要開啟此支援,參考<支援記憶體HPA Memory指標的Kubernetes的部署>,命令如下
kubectl get hpa.v2alpha1.autoscaling -o yaml > /tmp/hpa-v2.yaml
注意:API版本autoscaling/v2alpha1根據kubernetes版本而變,1.8以上改為autoscaling/v2beta1
檔案內容如下:
apiVersion: autoscaling/v2alpha1
kind: HorizontalPodAutoscaler
metadata:
name: php-apache-cpu
namespace: default
spec:
scaleTargetRef:
apiVersion: apps/v1beta1
kind: Deployment
name: php-apache-cpu
minReplicas: 1
maxReplicas: 10
metrics:
- type: Resource
resource:
name: cpu
targetAverageUtilization: 50
status:
observedGeneration: 1
lastScaleTime: <some-time>
currentReplicas: 1
desiredReplicas: 1
currentMetrics:
- type: Resource
resource:
name: cpu
currentAverageUtilization: 0
currentAverageValue: 0
注意到CPU的指標targetCPUUtilizationPercentage被metrics替代了。
targetAverageValue 被 targetAverageUtilization替代
將上面的cpu改為內容memory,就可以建立基於memory的HPA資源了。
也可以使用下面的hpa-memory-example.yaml內容。
apiVersion: autoscaling/v2alpha1
kind: HorizontalPodAutoscaler
metadata:
name: php-apache-mem
namespace: default
spec:
maxReplicas: 10
metrics:
- resource:
name: memory
targetAverageUtilization: 10
type: Resource
minReplicas: 1
scaleTargetRef:
apiVersion: extensions/v1beta1
kind: Deployment
name: php-apache-mem
檢視建立的hpa,結果發現當前的memory使用率CURRENT顯示為waiting.
kubectl get hpa php-apache-mem
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-mem Deployment/php-apache-mem 10% <waiting> 1 10 8s
注意:有可能是由於heapster元件沒有安裝,也有可能是資料沒有檢測到,預設heapster採集時間為1分,需要稍等一會看一下狀態。
kubectl get hpa php-apache-mem
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-mem Deployment/php-apache-mem 50% 0% 1 10 60s
如果要檢視hpa的事件,kubectl describe hpa php-apache-mem ,會出這些錯誤資訊
MetricsNotAvailableYet unable to get metrics for resource mem: no metrics returned from heapster。
這種錯誤資訊需要稍等一會多看幾次,分析一下是什麼原因導致的,有可能只是時間差導致的。
對php-apache-mem進行壓力測試
kubectl run -i --tty load-generator --image=busybox:latest /bin/sh #進入容器後執行一下命令
while true; do wget -q -O- http://php-apache-mem.default.svc.cluster.local; done
壓測幾分鐘後檢視hpa狀態,如果cpu壓力超過了設定的閾值,可以停止壓測。
檢視hpa狀態:
NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
php-apache-mem Deployment/php-apache-mem 10% 20% 1 10 60s
狀態已經超過了閾值,此時檢視pod,pod的數量已經增加了。
[email protected]:# kubectl get pods
NAME READY STATUS RESTARTS AGE
load-generator-535521892-scxsg 1/1 Running 0 6d
ache-1czu1 1/1 Running 0 6d
php-apache-mem-a4g4x 1/1 Running 0 6d
php-apache-mem-d2nn1 1/1 Running 0 6d
php-apache-mem-epnpf 1/1 Running 0 6d
php-apache-mem-ffuhk 1/1 Running 0 6d
php-apache-mem-g78ms 1/1 Running 0 6d
php-apache-mem-nglin 1/1 Running 0 6d
php-apache-mem-sxz5y 1/1 Running 0 7d
php-apache-mem-t7s8e 1/1 Running 0 6d
php-apache-mem-v7zxm 1/1 Running 0 6d
當停止壓力測試之後,過一段時間,Pod數量又會恢復到1。
四:總結已經注意事項
- 如果設定了horizontal-pod-autoscaler-use-rest-clients=true,HPA資源無法從heaspter獲取監控指標
- 後續會增加多指標的文件