1. 程式人生 > 實用技巧 >elasticsearch的簡單操作

elasticsearch的簡單操作

本篇部落格會簡單的介紹Redis的Sentinel相關的原理,同時也會在最後的文章給出硬核的實戰教程,讓你在瞭解原理之後,能夠實際上手的體驗整個過程。

之前的文章聊到了Redis的主從複製,聊到了其相關的原理和缺點,具體的建議可以看看我之前寫的文章Redis的主從複製

總的來說,為了滿足Redis在真正複雜的生產環境的高可用,僅僅是用主從複製是明顯不夠的。例如,當master節點宕機了之後,進行主從切換的時候,我們需要人工的去做failover。

同時在流量方面,主從架構只能通過增加slave節點來擴充套件讀請求,寫能力由於受到master單節點的資源限制是無法進行擴充套件的。

這也是為什麼我們需要引入Sentinel。

Sentinel

功能概覽

Sentinel其大致的功能如下圖。

Sentinel是Redis高可用的解決方案之一,本身也是分散式的架構,包含了多個Sentinel節點和多個Redis節點。而每個Sentinel節點會對Redis節點和其餘的Sentinel節點進行監控。

當其發現某個節點不可達時,如果是master節點就會與其餘的Sentinel節點協商。當大多數的Sentinel節點都認為master不可達時,就會選出一個Sentinel節點對master執行故障轉移,並通知Redis的呼叫方相關的變更。

相對於主從下的手動故障轉移,Sentinel的故障轉移是全自動的,無需人工介入。

Sentinel自身高可用

666,那我怎麼知道滿足它自身的高可用需要部署多少個Sentinel節點?

因為Sentinel本身也是分散式的,所以也需要部署多例項來保證自身叢集的高可用,但是這個數量是有個最低的要求,最低需要3個

我去,你說3個就3個?我今天偏偏就只部署2個

你別槓...等我說了為什麼就必須要3個...

因為哨兵執行故障轉移需要大部分的哨兵都同意才行,如果只有兩個哨兵例項,正常運作還好,就像這樣。

如果哨兵所在的那臺機器由於機房斷電啊,光纖被挖啊等極端情況整個掛掉了,那麼另一臺哨兵即使發現了master故障之後想要執行故障轉移,但是它無法得到任何其餘哨兵節點的同意,此時也永遠

無法執行故障轉移,那Sentinel豈不是成了一個擺設?

所以我們需要至少3個節點,來保證Sentinel叢集自身的高可用。當然,這三個Sentinel節點肯定都推薦部署到不同的機器上,如果所有的Sentinel節點都部署到了同一臺機器上,那當這臺機器掛了,整個Sentinel也就不復存在了。

quorum&majority

大部分?大哥這可是要上生產環境,大部分這個數量未免也太敷衍了,咱就不能專業一點?

前面提到的大部分哨兵同意涉及到兩個引數,一個叫quorum,如果Sentinel叢集有quorum個哨兵認為master宕機了,就客觀的認為master宕機了。另一個叫majority...

等等等等,不是已經有了一個叫什麼quorum的嗎?為什麼還需要這個majority?

你能不能等我把話說完...

quorum剛剛講過了,其作用是判斷master是否處於宕機的狀態,僅僅是一個判斷作用。而我們在實際的生產中,不是說只判斷master宕機就完了, 我們不還得執行故障轉移,讓叢集正常工作嗎?

同理,當哨兵叢集開始進行故障轉移時,如果有majority個哨兵同意進行故障轉移,才能夠最終選出一個哨兵節點,執行故障轉移操作。

主觀宕機&客觀宕機

你剛剛是不是提到了客觀宕機?笑死,難不成還有主觀宕機這一說?

Sentinel中認為一個節點掛了有兩種型別:

  • Subjective Down,簡稱sdown,主觀的認為master宕機
  • Objective Down,簡稱odown,客觀的認為master宕機

當一個Sentinel節點與其監控的Redis節點A進行通訊時,發現連線不上,此時這個哨兵節點就會主觀的認為這個Redis資料A節點sdown了。為什麼是主觀?我們得先知道什麼叫主觀

未經分析推算,下結論、決策和行為反應,暫時不能與其他不同看法的物件仔細商討,稱為主觀

簡單來說,因為有可能只是當前的Sentinel節點和這個A節點的網路通訊有問題,其餘的Sentinel節點仍然可以和A正常的通訊。

這也是為什麼我們需要引入odown,當大於等於了quorum個Sentinel節點認為某個節點宕機了,我們就客觀的認為這個節點宕機了。

當Sentinel叢集客觀的認為master宕機,就會從所有的Sentinel節點中,選出一個Sentinel節點,來最終執行master的故障轉移。

那這個故障轉移具體要執行些什麼操作呢?我們通過一個圖來看一下。

通知呼叫的客戶端master發生了變化

通知其餘的原slave節點,去複製Sentinel選舉出來的新的master節點

如果此時原來的master又重新恢復了,Sentinel也會讓其去複製新的master節點。成為一個新的slave節點。

硬核教程

硬核教程旨在用最快速的方法,讓你在本地體驗Redis主從架構和Sentinel叢集的搭建,並體驗整個故障轉移的過程。

前置要求

  1. 安裝了docker
  2. 安裝了docker-compose

準備compose檔案

首先需要準備一個目錄,然後分別建立兩個子目錄。如下。

$ tree .
.
├── redis
│ └── docker-compose.yml
└── sentinel
    ├── docker-compose.yml
    ├── sentinel1.conf
    ├── sentinel2.conf
    └── sentinel3.conf

2 directories, 5 files

搭建Redis主從伺服器

redis目錄下的docker-compose.yml內容如下。

version: '3'
services:
  master:
    image: redis
    container_name: redis-master
    ports:
      - 6380:6379
  slave1:
    image: redis
    container_name: redis-slave-1
    ports:
      - 6381:6379
    command:  redis-server --slaveof redis-master 6379
  slave2:
    image: redis
    container_name: redis-slave-2
    ports:
      - 6382:6379
    command: redis-server --slaveof redis-master 6379

以上的命令,簡單解釋一下slaveof

就是讓兩個slave節點去複製container_name為redis-master的節點,這樣就組成了一個簡單的3個節點的主從架構

然後用命令列進入當前目錄,直接敲命令docker-compose up即可,剩下的事情交給docker-compose去做就好,它會把我們所需要的節點全部啟動起來。

此時我們還需要拿到剛剛我們啟動的master節點的IP,簡要步驟如下:

  1. 通過docker ps找到對應的master節點的containerID

    $ docker ps
    CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS                    NAMES
    9f682c199e9b        redis               "docker-entrypoint.s…"   3 seconds ago       Up 2 seconds        0.0.0.0:6381->6379/tcp   redis-slave-1
    2572ab587558        redis               "docker-entrypoint.s…"   3 seconds ago       Up 2 seconds        0.0.0.0:6382->6379/tcp   redis-slave-2
    f70a9d9809bc        redis               "docker-entrypoint.s…"   3 seconds ago       Up 2 seconds        0.0.0.0:6380->6379/tcp   redis-master
    

    也就是f70a9d9809bc

  2. 通過docker inspect f70a9d9809bc,拿到對應容器的IP,在NetworkSettings -> Networks -> IPAddress欄位。

然後把這個值給記錄下來,此處我的值為172.28.0.3

搭建Sentinel叢集

sentinel目錄下的docker-compose.yml內容如下。

version: '3'
services:
  sentinel1:
    image: redis
    container_name: redis-sentinel-1
    ports:
      - 26379:26379
    command: redis-sentinel /usr/local/etc/redis/sentinel.conf
    volumes:
      - ./sentinel1.conf:/usr/local/etc/redis/sentinel.conf
  sentinel2:
    image: redis
    container_name: redis-sentinel-2
    ports:
    - 26380:26379
    command: redis-sentinel /usr/local/etc/redis/sentinel.conf
    volumes:
      - ./sentinel2.conf:/usr/local/etc/redis/sentinel.conf
  sentinel3:
    image: redis
    container_name: redis-sentinel-3
    ports:
      - 26381:26379
    command: redis-sentinel /usr/local/etc/redis/sentinel.conf
    volumes:
      - ./sentinel3.conf:/usr/local/etc/redis/sentinel.conf
networks:
  default:
    external:
      name: redis_default

同樣在這裡解釋一下命令

redis-sentinel 命令讓 redis 以 sentinel 的模式啟動,本質上就是一個執行在特殊模式的 redis 伺服器。

和 redis-server 的區別在於,他們分別載入了不同的命令表,sentinel 中無法執行各種redis中特有的 set get操作。

建立三份一模一樣的檔案,分別命名為sentinel1.conf、sentinel2.conf和sentinel3.conf。其內容如下:

port 26379
dir "/tmp"
sentinel deny-scripts-reconfig yes
sentinel monitor mymaster 172.28.0.3 6379 2
sentinel config-epoch mymaster 1
sentinel leader-epoch mymaster 1

可以看到,我們對於sentinel的配置檔案中,sentinel monitor mymaster 172.28.0.3 6379 2表示讓它去監聽名為mymaster的master節點,注意此處的IP一定要是你自己master節點的IP,然後最後面的2就是我們之前提到的quorum

然後命令列進入名為sentinel的目錄下,敲docker-compose up即可。至此,Sentinel叢集便啟動了起來。

手動模擬master掛掉

然後我們需要手動模擬master掛掉,來驗證我們搭建的Sentinel叢集是否可以正常的執行故障轉移。

命令列進入名為redis的目錄下,敲入如下命令。

docker-compose pause master

此時就會將master容器給暫停執行,讓我們等待10秒之後,就可以看到sentinel這邊輸出瞭如下的日誌。

redis-sentinel-2 | 1:X 07 Dec 2020 01:58:05.459 # +sdown master mymaster 172.28.0.3 6379
......
......
......
redis-sentinel-1 | 1:X 07 Dec 2020 01:58:06.932 # +switch-master mymaster 172.28.0.3 6379 172.28.0.2 6379

得得得,你幹什麼就甩一堆日誌檔案上來?湊字數?你這樣鬼能看懂?

的確,光從日誌檔案一行一行的看,就算是我自己過兩週再來看,也是一臉懵逼。日誌檔案完整了描述了整個Sentinel叢集從開始執行故障轉移到最終執行完成的所有細節,但是在這裡直接放出來不方便大家的理解。

所以為了讓大家能夠更加直觀的瞭解這個過程,我簡單的把過程抽象了成了一張圖,大家看圖結合日誌,應該能夠更容易理解。

裡面關鍵的步驟步驟的相關解釋我也一併放入了圖片中。

最終的結果就是,master已經從我們最開始的172.28.0.3切換到了172.28.0.2,後者則是原來的slave節點之一。此時我們也可以連線到172.28.0.2這個容器裡去,通過命令來看一下其現在的情況。

role:master
connected_slaves:1
slave0:ip=172.28.0.4,port=6379,state=online,offset=18952,lag=0
master_replid:f0bf5d1c843ec3ab005c5ac2b864f7ffdc6a8217
master_replid2:72c43e1f9c05d4b08bea6bf9b2549997587e261c
master_repl_offset:18952
second_repl_offset:16351
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:18952

可以看到,現在的172.28.0.2這個節點的角色已經變成了master,與其相連線的slave節點只有1個,因為現在的原master還沒有啟動起來,總共存活的只有2個例項。

原master重啟啟動

接下來我們模擬原master重新啟動,來看一下會發什麼什麼。

還是通過命令列進入到名為redis的本地目錄,通過docker-compose unpause master來模擬原master故障恢復之後的上線。同樣我們連線到原master的機器上去。

$ docker exec -it f70a9d9809bc1e924a5be0135888067ad3eb16552f9eaf82495e4c956b456cd9 /bin/sh; exit
# redis-cli
127.0.0.1:6379> info replication
# Replication
role:slave
master_host:172.28.0.2
master_port:6379
master_link_status:up
......

master斷線重連之後,角色也變成了新的master(也就是172.28.0.2這個節點)的一個slave。

然後我們也可以通過再看一下新master節點的replication情況作證。

# Replication
role:master
connected_slaves:2
slave0:ip=172.28.0.4,port=6379,state=online,offset=179800,lag=0
slave1:ip=172.28.0.3,port=6379,state=online,offset=179800,lag=1
......

原master短線重連之後,其connected_slaves變成了2,且原master172.28.0.3被清晰的標註為了slave1,同樣與我們開篇和圖中所講的原理相符合。

好了,以上就是本篇部落格的全部內容

歡迎微信關注「SH的全棧筆記」,檢視更多相關的文章
往期文章