ubuntu 使用阿里雲映象源快速搭建kubernetes 1.15.2叢集

一、概述

搭建k8s叢集時，需要訪問google，下載相關映象以及安裝軟體，非常麻煩。

正好阿里雲提供了k8s的更新源，國內使用者就可以直接使用了。

二、環境介紹

注意：請確保CPU至少2核，記憶體2G

三、安裝前準備

主機名

確保3臺主機的/etc/hostname 已經修改為正確的主機名，修改後，請重啟系統。

時間

務必保證3臺伺服器的時區是一樣的，強制更改時區為上海，執行以下命令

ln -snf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
bash -c "echo 'Asia/Shanghai' > /etc/timezone"

安裝ntpdate

apt-get install -y ntpdate

如果出現以下錯誤

E: Could not get lock /var/lib/dpkg/lock - open (11: Resource temporarily unavailable)
E: Unable to lock the administration directory (/var/lib/dpkg/), is another process using it?

執行2個命令解決

sudo rm /var/cache/apt/archives/lock
sudo rm /var/lib/dpkg/lock

使用阿里雲的時間伺服器更新

ntpdate ntp1.aliyun.com

3臺伺服器都執行一下，確保時間一致！

請確保防火牆都關閉了！

四、正式開始

禁用swap

所有主機

sudo sed -i '/swap/ s/^/#/' /etc/fstab
sudo swapoff -a

安裝Docker

更新apt源,並新增https支援（所有主機）

sudo apt-get update && sudo apt-get install apt-transport-https ca-certificates curl software-properties-common -y

使用utc源新增GPG Key (所有主機)

curl -fsSL https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu/gpg | sudo apt-key add 

新增Docker-ce穩定版源地址（所有主機）

sudo add-apt-repository "deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

安裝docker-ce（所有主機）

安裝最新版docker

sudo apt-get update
sudo apt-get install -y docker-ce=5:19.03.1~3-0~ubuntu-xenial

安裝kubelet，kubeadm，kubectl

新增apt key以及源（所有主機）

sudo apt update && sudo apt install -y apt-transport-https curl
curl -s https://mirrors.aliyun.com/kubernetes/apt/doc/apt-key.gpg | sudo apt-key add -

echo "deb https://mirrors.aliyun.com/kubernetes/apt/ kubernetes-xenial main" >>/etc/apt/sources.list.d/kubernetes.list

安裝（所有主機）

最新版kubelet

sudo apt update
sudo apt install -y kubelet=1.15.2-00 kubeadm=1.15.2-00 kubectl=1.15.2-00
sudo apt-mark hold kubelet=1.15.2-00 kubeadm=1.15.2-00 kubectl=1.15.2-00

安裝kubernetes叢集（僅master）

sudo kubeadm init --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.15.2 --pod-network-cidr=192.169.0.0/16 | tee /etc/kube-server-key

引數解釋：

--image-repository 指定映象源，指定為阿里雲的源，這樣就會避免在拉取映象超時，如果沒問題，過幾分鐘就能看到成功的日誌輸入

--kubernetes-version 指定版本

--pod-network-cidr 指定pod網路地址。設定為內網網段！

三大內網網路為：

C類：192.168.0.0-192.168.255.255
B類：172.16.0.0-172.31.255.255
A類：10.0.0.0-10.255.255.255

輸出：

出現WARNING資訊，可以忽略。

輸出資訊，會儲存到/etc/kube-server-key 檔案中

拷貝kubeconfig檔案到家目錄的.kube目錄 （僅master）

mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

安裝網路外掛，讓pod之間通訊（僅master）

使用最新版的

kubectl apply -f https://docs.projectcalico.org/v3.8/manifests/calico.yaml

檢視kube-system名稱空間下的pod狀態（僅master）

kubectl get pod -n kube-system

等待1分鐘，效果如下：

NAME                                       READY   STATUS    RESTARTS   AGE
calico-kube-controllers-7bd78b474d-lpfvf   0/1     Running   0          67s
calico-node-vfm28                          1/1     Running   0          67s
coredns-bccdc95cf-dm4pb                    1/1     Running   0          111s
coredns-bccdc95cf-lvhcg                    1/1     Running   0          111s
etcd-k8s-master                            1/1     Running   0          69s
kube-apiserver-k8s-master                  1/1     Running   0          67s
kube-controller-manager-k8s-master         1/1     Running   0          59s
kube-proxy-jpqsq                           1/1     Running   0          111s
kube-scheduler-k8s-master                  1/1     Running   0          56s

檢視加入節點命令（僅master）

cat /etc/kube-server-key | tail -2

輸出：

kubeadm join 192.168.10.130:6443 --token bz16uu.olqxoh5q5bnt50sd \
    --discovery-token-ca-cert-hash sha256:9177017ff3016dbb2aadf7484f7823f8b963c989fe9ecdccbe601c9305ce000f

加入node節點(僅node)

在每個node上執行

kubeadm join 192.168.10.130:6443 --token bz16uu.olqxoh5q5bnt50sd \
    --discovery-token-ca-cert-hash sha256:9177017ff3016dbb2aadf7484f7823f8b963c989fe9ecdccbe601c9305ce000f

等待5分鐘，檢視叢集狀態（僅master）

root@k8s-master:~# kubectl get nodes
NAME         STATUS   ROLES    AGE     VERSION
k8s-master   Ready    master   5m54s   v1.15.2
k8s-node1    Ready    <none>   73s     v1.15.2
k8s-node2    Ready    <none>   71s     v1.15.2

命令補全

（僅master）

apt-get install bash-completion

source <(kubectl completion bash)
echo "source <(kubectl completion bash)" >> ~/.bashrc
source  ~/.bashrc

四、部署應用

（僅master）

這裡以flask為例：

vim flask.yaml

內容如下：

apiVersion: extensions/v1beta1
kind: Deployment 
metadata: 
  name: flaskapp-1
spec: 
  replicas: 1
  template: 
    metadata: 
      labels: 
        name: flaskapp-1
    spec: 
      containers: 
        - name: flaskapp-1
          image: jcdemo/flaskapp
          ports:
          - containerPort: 5000

---
apiVersion: v1
kind: Service
metadata:
  name: flaskapp-1
  labels:
    name: flaskapp-1
spec:
  type: NodePort
  ports:
  - port: 5000
    name: flaskapp-port
    targetPort: 5000
    protocol: TCP
    nodePort: 30005
  selector:
    name: flaskapp-1

啟動應用

kubectl apply -f flask.yaml

檢視應用狀態

root@k8s-master:~# kubectl get pods -o wide
NAME                          READY   STATUS    RESTARTS   AGE   IP              NODE        NOMINATED NODE   READINESS GATES
flaskapp-1-59698bc97d-2xnhb   1/1     Running   0          24s   192.168.36.65   k8s-node1   <none>           <none>

以上資訊可以說明，這個pod執行在k8s-node1這臺主機上面

ping pod ip地址，如果可以ping通，說明calico外掛執行正常。

root@k8s-master:~# ping 192.168.36.65 -c 1
PING 192.168.36.65 (192.168.36.65) 56(84) bytes of data.
64 bytes from 192.168.36.65: icmp_seq=1 ttl=63 time=6.77 ms

--- 192.168.36.65 ping statistics ---
1 packets transmitted, 1 received, 0% packet loss, time 0ms
rtt min/avg/max/mdev = 6.777/6.777/6.777/0.000 ms

測試 pod 是否可以上網

root@k8s-master:~# kubectl exec -it flaskapp-1-59698bc97d-2xnhb -- ping www.baidu.com -c 1
PING www.baidu.com (61.135.169.125): 56 data bytes
64 bytes from 61.135.169.125: seq=0 ttl=53 time=27.079 ms

--- www.baidu.com ping statistics ---
1 packets transmitted, 1 packets received, 0% packet loss
round-trip min/avg/max = 27.079/27.079/27.079 ms

使用curl訪問pod ip的服務

root@k8s-master:~# curl 192.168.36.65:5000
<html><head><title>Docker + Flask Demo</title></head><body><table><tr><td> Start Time </td> <td>2019-Aug-11 04:52:17</td> </tr><tr><td> Hostname </td> <td>flaskapp-1-59698bc97d-2xnhb</td> </tr><tr><td> Local Address </td> <td>192.168.36.65</td> </tr><tr><td> Remote Address </td> <td>192.168.235.192</td> </tr><tr><td> Server Hit </td> <td>1</td> </tr></table></body></html>

檢視svc埠

root@k8s-master:~# kubectl get svc
NAME         TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
flaskapp-1   NodePort    10.107.181.43   <none>        5000:30005/TCP   3m40s
kubernetes   ClusterIP   10.96.0.1       <none>        443/TCP          10m

直接網頁訪問k8s-node1的30005埠

http://192.168.10.131:30005/

效果如下：

五、部署dashboard視覺化外掛

概述

在 Kubernetes Dashboard 中可以檢視叢集中應用的執行狀態，也能夠建立和修改各種 Kubernetes 資源，比如 Deployment、Job、DaemonSet 等。使用者可以 Scale Up/Down Deployment、執行 Rolling Update、重啟某個 Pod 或者通過嚮導部署新的應用。Dashboard 能顯示叢集中各種資源的狀態以及日誌資訊。

可以說，Kubernetes Dashboard 提供了 kubectl 的絕大部分功能，大家可以根據情況進行選擇。

github地址：

https://github.com/kubernetes/dashboard

安裝

Kubernetes 預設沒有部署 Dashboard，可通過如下命令安裝：

kubectl apply -f http://mirror.faasx.com/kubernetes/dashboard/master/src/deploy/recommended/kubernetes-dashboard.yaml

檢視service

root@k8s-master:~# kubectl --namespace=kube-system get deployment kubernetes-dashboard
NAME                   READY   UP-TO-DATE   AVAILABLE   AGE
kubernetes-dashboard   1/1     1            1           5m23s
root@k8s-master:~# kubectl --namespace=kube-system get service kubernetes-dashboard
NAME                   TYPE        CLUSTER-IP       EXTERNAL-IP   PORT(S)   AGE
kubernetes-dashboard   ClusterIP   10.100.111.103   <none>        443/TCP   5m28s

檢視pod

確保狀態是Running

root@k8s-master:~# kubectl get pod --namespace=kube-system -o wide | grep dashboard
kubernetes-dashboard-8594bd9565-t78bj   1/1     Running   0          8m41s   192.169.2.7      k8s-node2    <none>           <none>

允許外部訪問

注意：會佔用終端

kubectl proxy --address='0.0.0.0'  --accept-hosts='^*$'

配置登入許可權

Dashboard 支援 Kubeconfig 和 Token 兩種認證方式，為了簡化配置，我們通過配置檔案 dashboard-admin.yaml 為 Dashboard 預設使用者賦予 admin 許可權。

vim dashboard-admin.yml

內容如下：

apiVersion: rbac.authorization.k8s.io/v1beta1
kind: ClusterRoleBinding
metadata:
  name: kubernetes-dashboard
  labels: 
     k8s-app: kubernetes-dashboard
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: cluster-admin
subjects:
- kind: ServiceAccount
  name: kubernetes-dashboard
  namespace: kube-system

執行kubectl apply使之生效

kubectl apply -f dashboard-admin.yml

通過瀏覽器訪問

注意：192.168.10.130為master ip

http://192.168.10.130:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/.

現在直接點選登入頁面的跳過

就可以進入 Dashboard 了，效果如下：

關於dashboard介面結構介紹，請參考連結：

https://www.cnblogs.com/kenken2018/p/10340157.html

六、解決k8s 外網無法訪問nodePort問題

上面flask的例子，無法通過master ip+nodeport訪問。

是因為防火牆阻止了

root@k8s-master:~# iptables -xnL|grep FORWARD 
Chain FORWARD (policy DROP)
cali-FORWARD  all  --  0.0.0.0/0            0.0.0.0/0            /* cali:wUHhoiAYhphO9Mso */
KUBE-FORWARD  all  --  0.0.0.0/0            0.0.0.0/0            /* kubernetes forwarding rules */
Chain KUBE-FORWARD (1 references)
Chain cali-FORWARD (1 references)

解決辦法：

iptables -P FORWARD ACCEPT

使用master ip+nodeport訪問

http://192.168.10.130:30005/

效果如下：

參考連結：

https://blog.csdn.net/a610786189/article/details/80321727

本文參考連結：

https://www.toutiao.com/i6703112655323791884

https://www.cnblogs.com/busigulang/p/10736040.html

https://www.cnblogs.com/qingfeng2010/p/10540832.html

https://www.cnblogs.com/kenken2018/p/10340157.html