Kubernetes 控制器之 Deployment 介紹(六)
一、Deployment、ReplicaSet、Pod之間的關係
我們接著前面的文章說,如果不清楚的請檢視之前的博文:http://blog.51cto.com/wzlinux/2322616
前面我們已經瞭解到,Kubernetes 通過各種 Controller 來管理 Pod 的生命週期。為了滿足不同業務場景,Kubernetes 開發了 Deployment、ReplicaSet、DaemonSet、StatefuleSet、Job 等多種 Controller。我們首先學習最常用的 Deployment。
1、執行 Deployment
先從例子開始,執行一個 Deployment:
kubectl run nginx-deployment --image=nginx:1.7.9 --replicas=2
上面的命令將部署包含兩個副本的 Deployment nginx-deployment
,容器的 image 為 nginx:1.7.9
。
2、檢視 Deployment(deploy)
檢視剛剛建立的 deployment,其可以簡寫為deploy。
[[email protected] ~]# kubectl get deploy NAME DESIRED CURRENT UP-TO-DATE AVAILABLE AGE nginx-deployment 2 2 2 2 4m56s
使用命令kubectl describe deploy
檢視內部內容。
kubectl describe deploy nginx-deployment
Name: nginx-deployment Namespace: default CreationTimestamp: Thu, 29 Nov 2018 17:47:16 +0800 Labels: run=nginx-deployment Annotations: deployment.kubernetes.io/revision: 1 Selector: run=nginx-deployment Replicas: 2 desired | 2 updated | 2 total | 2 available | 0 unavailable StrategyType: RollingUpdate MinReadySeconds: 0 RollingUpdateStrategy: 25% max unavailable, 25% max surge Pod Template: Labels: run=nginx-deployment Containers: nginx-deployment: Image: nginx:1.7.9 Port: <none> Host Port: <none> Environment: <none> Mounts: <none> Volumes: <none> Conditions: Type Status Reason ---- ------ ------ Available True MinimumReplicasAvailable Progressing True NewReplicaSetAvailable OldReplicaSets: <none> NewReplicaSet: nginx-deployment-5fd98dbf5f (2/2 replicas created) Events: Type Reason Age From Message ---- ------ ---- ---- ------- Normal ScalingReplicaSet 6m11s deployment-controller Scaled up replica set nginx-deployment-5fd98dbf5f to 2
展示的內容大部分都是描述資訊,我們看最後一行,這裡告訴我們建立了一個 ReplicaSet nginx-deployment-5fd98dbf5f
,Events 是 Deployment 的日誌,記錄了 ReplicaSet 的啟動過程。
通過上面的分析,也驗證了 Deployment 通過 ReplicaSet 來管理 Pod 的事實。
3、檢視 ReplicaSet(rs)
檢視我們有哪些 rs。
[[email protected] ~]# kubectl get rs
NAME DESIRED CURRENT READY AGE
nginx-deployment-5fd98dbf5f 2 2 2 12m
使用命令kubectl describe rs
檢視其詳細資訊。
kubectl describe rs nginx-deployment-5fd98dbf5f
Name: nginx-deployment-5fd98dbf5f
Namespace: default
Selector: pod-template-hash=5fd98dbf5f,run=nginx-deployment
Labels: pod-template-hash=5fd98dbf5f
run=nginx-deployment
Annotations: deployment.kubernetes.io/desired-replicas: 2
deployment.kubernetes.io/max-replicas: 3
deployment.kubernetes.io/revision: 1
Controlled By: Deployment/nginx-deployment
Replicas: 2 current / 2 desired
Pods Status: 2 Running / 0 Waiting / 0 Succeeded / 0 Failed
Pod Template:
Labels: pod-template-hash=5fd98dbf5f
run=nginx-deployment
Containers:
nginx-deployment:
Image: nginx:1.7.9
Port: <none>
Host Port: <none>
Environment: <none>
Mounts: <none>
Volumes: <none>
Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Normal SuccessfulCreate 13m replicaset-controller Created pod: nginx-deployment-5fd98dbf5f-8g7nm
Normal SuccessfulCreate 13m replicaset-controller Created pod: nginx-deployment-5fd98dbf5f-58c4z
我們可以看到Controlled By: Deployment/nginx-deployment
,說明此 ReplicaSet 由 Deployment nginx-deployment
。
在Events
記錄了兩個副本 Pod 的建立,那我們檢視一下 Pod。
4、檢視 Pod
檢視目前的 Pod。
[[email protected] ~]# kubectl get pods
NAME READY STATUS RESTARTS AGE
nginx-deployment-5fd98dbf5f-58c4z 1/1 Running 0 19m
nginx-deployment-5fd98dbf5f-8g7nm 1/1 Running 0 19m
隨便選擇一個 Pod,檢視其詳細資訊。
kubectl describe pod nginx-deployment-5fd98dbf5f-58c4z
Name: nginx-deployment-5fd98dbf5f-58c4z
Namespace: default
Priority: 0
PriorityClassName: <none>
Node: node02.wzlinux.com/172.18.8.202
Start Time: Thu, 29 Nov 2018 17:47:16 +0800
Labels: pod-template-hash=5fd98dbf5f
run=nginx-deployment
Annotations: <none>
Status: Running
IP: 10.244.2.3
Controlled By: ReplicaSet/nginx-deployment-5fd98dbf5f
Containers:
nginx-deployment:
Container ID: docker://69fa73ed16d634627b69b8968915d9a5704f159206ac0d3b2f1179fa99acd56f
Image: nginx:1.7.9
Image ID: docker-pullable://[email protected]:e3456c851a152494c3e4ff5fcc26f240206abac0c9d794affb40e0714846c451
Port: <none>
Host Port: <none>
State: Running
Started: Thu, 29 Nov 2018 17:47:28 +0800
Ready: True
Restart Count: 0
Environment: <none>
Mounts:
/var/run/secrets/kubernetes.io/serviceaccount from default-token-sm664 (ro)
Conditions:
Type Status
Initialized True
Ready True
ContainersReady True
PodScheduled True
Volumes:
default-token-sm664:
Type: Secret (a volume populated by a Secret)
SecretName: default-token-sm664
Optional: false
QoS Class: BestEffort
Node-Selectors: <none>
Tolerations: node.kubernetes.io/not-ready:NoExecute for 300s
node.kubernetes.io/unreachable:NoExecute for 300s
Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Normal Scheduled 20m default-scheduler Successfully assigned default/nginx-deployment-5fd98dbf5f-58c4z to node02.wzlinux.com
Normal Pulling 20m kubelet, node02.wzlinux.com pulling image "nginx:1.7.9"
Normal Pulled 20m kubelet, node02.wzlinux.com Successfully pulled image "nginx:1.7.9"
Normal Created 20m kubelet, node02.wzlinux.com Created container
Normal Started 20m kubelet, node02.wzlinux.com Started container
我們可以看到Controlled By: ReplicaSet/nginx-deployment-5fd98dbf5f
,說明此 Pod 是由 ReplicaSet nginx-deployment-5fd98dbf5f
建立的。
Events
記錄了 Pod 的啟動過程。
5、總結
- 使用者通過 kubectl 建立 Deployment。
- Deployment 建立 ReplicaSet。
- ReplicaSet 建立 Pod。
從上圖也可以看出,物件的命名方式是:子物件的名字 = 父物件名字 + 隨機字串或數字。
二、伸縮
伸縮(Scale Up/Down)是指線上增加或減少 Pod 的副本數。
我們重新建立一下。
[[email protected] ~]# kubectl run nginx --image=nginx:1.7.9 --replicas=2
deployment.apps/nginx created
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
nginx-699ff78c9-2xxnj 1/1 Running 0 51s 10.244.1.11 node01.wzlinux.com <none>
nginx-699ff78c9-j5w6c 1/1 Running 0 51s 10.244.3.6 node02.wzlinux.com <none>
我們把副本數量修改為5個,檢視一下。
[[email protected] ~]# kubectl scale --replicas=5 deploy/nginx
deployment.extensions/nginx scaled
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
nginx-699ff78c9-2xxnj 1/1 Running 0 2m21s 10.244.1.11 node01.wzlinux.com <none>
nginx-699ff78c9-4qq9h 1/1 Running 0 18s 10.244.1.12 node01.wzlinux.com <none>
nginx-699ff78c9-b6dt4 1/1 Running 0 18s 10.244.3.7 node02.wzlinux.com <none>
nginx-699ff78c9-j5w6c 1/1 Running 0 2m21s 10.244.3.6 node02.wzlinux.com <none>
nginx-699ff78c9-zhwsz 1/1 Running 0 18s 10.244.3.8 node02.wzlinux.com <none>
三個新副本被建立並排程到 node01 和 node02 上,出於安全考慮,預設配置下 Kubernetes 不會將 Pod 排程到 Master 節點。如果希望將 master 也當作 Node 使用,可以執行如下命令:
kubectl taint node master node-role.kubernetes.io/master-
如果要恢復 Master Only 狀態,執行如下命令:
kubectl taint node master node-role.kubernetes.io/master="":NoSchedule
想要減少副本數量也是同樣的方法,指定數量即可,那我們減少到3個副本。
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
nginx-699ff78c9-2xxnj 1/1 Running 0 2m55s 10.244.1.11 node01.wzlinux.com <none>
nginx-699ff78c9-4qq9h 1/1 Running 0 52s 10.244.1.12 node01.wzlinux.com <none>
nginx-699ff78c9-j5w6c 1/1 Running 0 2m55s 10.244.3.6 node02.wzlinux.com <none>
三、故障轉移
目前是五個應用分別執行在兩臺機器上面,我們把 node02 關閉,造成 node02 出現問題,然後再檢視一下 Pod 的情況。
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
nginx-699ff78c9-2xxnj 1/1 Running 0 8m49s 10.244.1.11 node01.wzlinux.com <none>
nginx-699ff78c9-4qq9h 1/1 Running 0 6m46s 10.244.1.12 node01.wzlinux.com <none>
nginx-699ff78c9-j5w6c 1/1 Unknown 0 8m49s 10.244.3.6 node02.wzlinux.com <none>
nginx-699ff78c9-wqd5k 1/1 Running 0 32s 10.244.1.13 node01.wzlinux.com <none>
等待一段時間之後,我們看到 node02 上的 Pod 標記為 Unknown
狀態,並在 node01 上面新建三個 Pod,維持總副本數為3。
那我們重啟把伺服器啟動起來,正常情況下,如果配置沒有問題,服務會自動新增到叢集中,我們啟動檢視狀態。
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
nginx-699ff78c9-2xxnj 1/1 Running 0 14m 10.244.1.11 node01.wzlinux.com <none>
nginx-699ff78c9-4qq9h 1/1 Running 0 12m 10.244.1.12 node01.wzlinux.com <none>
nginx-699ff78c9-wqd5k 1/1 Running 0 6m37s 10.244.1.13 node01.wzlinux.com <none>
當 node02 恢復後,Unknown
的 Pod 會被刪除,不過已經執行的 Pod 不會重新排程回 node02。
四、標籤
預設配置下,Scheduler 會將 Pod 排程到所有可用的 Node。不過有些情況我們希望將 Pod 部署到指定的 Node,比如將有大量磁碟 I/O 的 Pod 部署到配置了 SSD 的 Node;或者 Pod 需要 GPU,需要執行在配置了 GPU 的節點上。
我們使用mytest.yaml
檔案建立一個Deployment
,內容如下:
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: mytest
namespace: default
spec:
replicas: 5
template:
metadata:
labels:
run: mytest
spec:
containers:
- image: wangzan18/mytest:v1
imagePullPolicy: IfNotPresent
name: mytest
使用下面命令建立應用。
[[email protected] ~]# kubectl create -f mytest.yaml
deployment.extensions/mytest created
Kubernetes 是通過 label 來實現這個功能的。label 是 key-value 對,各種資源都可以設定 label,靈活新增各種自定義屬性。比如執行如下命令標註 node01 是配置了 SSD 的節點。
kubectl label node node01.wzlinux.com disktype=ssd
然後使用命令kubectl get node --show-labels
我們檢視。
NAME STATUS ROLES AGE VERSION LABELS
master.wzlinux.com Ready master 26h v1.12.3 beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,kubernetes.io/hostname=master.wzlinux.com,node-role.kubernetes.io/master=
node01.wzlinux.com Ready <none> 25h v1.12.3 beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,disktype=ssd,kubernetes.io/hostname=node01.wzlinux.com
node02.wzlinux.com Ready <none> 91m v1.12.3 beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,kubernetes.io/hostname=node02.wzlinux.com
disktype=ssd
已經成功新增到 node01,除了 disktype,Node 還有幾個 Kubernetes 自己維護的 label。
有了disktype
這個自定義 label,接下來就可以指定將 Pod 部署到 node01。編輯 mytest.yaml:
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: mytest
namespace: default
spec:
replicas: 5
template:
metadata:
labels:
run: mytest
spec:
containers:
- image: wangzan18/mytest:v1
imagePullPolicy: IfNotPresent
name: mytest
nodeSelector:
disktype: ssd
在 Pod 模板的spec
裡通過nodeSelector
指定將此 Pod 部署到具有 label disktype=ssd 的 Node 上。
重新部署 Deployment 並檢視 Pod 的執行節點:
[[email protected] ~]# kubectl apply -f mytest.yaml
Warning: kubectl apply should be used on resource created by either kubectl create --save-config or kubectl apply
deployment.extensions/mytest configured
[[email protected] ~]# kubectl get pod -o wide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE
mytest-6f7fbbfdc7-2tr6s 1/1 Running 0 63s 10.244.1.19 node01.wzlinux.com <none>
mytest-6f7fbbfdc7-5g9tj 1/1 Running 0 61s 10.244.1.21 node01.wzlinux.com <none>
mytest-6f7fbbfdc7-bnfxv 1/1 Running 0 61s 10.244.1.22 node01.wzlinux.com <none>
mytest-6f7fbbfdc7-bqzqq 1/1 Running 0 60s 10.244.1.23 node01.wzlinux.com <none>
mytest-6f7fbbfdc7-v6cqk 1/1 Running 0 63s 10.244.1.20 node01.wzlinux.com <none>
全部 6 個副本都執行在 node01 上,符合我們的預期。
要刪除 label disktype
,執行如下命令:
[[email protected] ~]# kubectl label node node01.wzlinux.com disktype-
node/node01.wzlinux.com labeled
不過此時 Pod 並不會重新部署,依然在 node01 上執行。
除非在mytest.yaml
中刪除nodeSelector
設定,然後通過kubectl apply
重新部署。
關於物件資源的設定,大家可以使用命令kubectl explain,比如檢視pod中nodeSelector的引數設定,我們可以使用命令
kubectl explain pod.spec.nodeSelector
小問題:手動重新新增到叢集
如果因為某些問題,服務不能自動新增到叢集中,我們就需要手動重新初始化新增一次。
在 master
節點上面先刪除 node02節點。
kubectl delete node node02.wzlinux.com
在 node02
上面 reset。
kubeadm reset
重新使用kubeadm init
初始化,但是發現token過期了,我們需要在master
節點重新生成token。
[[email protected] ~]# kubeadm token create
v269qh.2mylwtmc96kd28sq
生成ca-cert-hash
sha256的值。
[[email protected] ~]# openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | \
> openssl dgst -sha256 -hex | sed 's/^.* //'
84e50f7beaa4d3296532ae1350330aaf79f3f0d45ec8623fae6cd9fe9a804635
然後在node節點上面重新使用kubeadm init
進行新增叢集中。