Redis 主從複製-哨兵-叢集 相關部署
Redis 主從複製-哨兵-叢集 相關部署
一、Redis主從複製-哨兵-叢集
1.主從複製：主從複製是高可用Redis的基礎，哨兵和叢集都是在主從複製基礎上實現高可用的。主從複製主要實現了資料的多機備份，以及對於讀操作的負載均衡和簡單的故障恢復。缺陷：故障恢復無法自動化；寫操作無法負載均衡；儲存能力受到單機的限制。
2.哨兵：在主從複製的基礎上，哨兵實現了自動化的故障恢復。缺陷：寫操作無法負載均衡；儲存能力受到單機的限制；哨兵無法對從節點進行自動故障轉移，在讀寫分離場景下，從節點故障會導致讀服務不可用，需要對從節點做額外的監控、切換操作。
3.叢集：通過叢集，Redis解決了寫操作無法負載均衡，以及儲存能力受到單機限制的問題，實現了較為完善的高可用方案。
二、主從複製
• 主從複製，是指將一臺 Redis 伺服器的資料，複製到其他的 Redis 伺服器。前者稱為主節點(Master)，後者稱為從節點(Slave)；資料的複製是單向的，只能由主節點到從節點
• 預設情況下，每臺 Redis 伺服器都是主節點；且一個主節點可以有多個從節點 (或沒有從節點)，但一個從節點只能有一個主節點
1.主從複製的作用
① 資料冗餘主從複製實現了資料的熱備份，是持久化之外的一種資料冗餘方式。
② 故障恢復當主節點出現問題時，可以由從節點提供服務，實現快速的故障恢復；實際上是一種服務的冗餘。
③ 負載均衡在主從複製的基礎上，配合讀寫分離，可以由主節點提供寫服務，由從節點提供讀服務 (即寫 Redis 資料時應用連線主節點，讀 Redis 資料時應用連線從節點)，分擔伺服器負載；尤其是在寫少讀多的場景下，通過多個從節點分擔讀負載，可以大大提高Redis伺服器的併發量。
④ 高可用基石除了上述作用以外，主從複製還是哨兵和叢集能夠實施的基礎，因此說主從複製是Redis高可用的基礎。
2.主從複製流程
① 若啟動一個Slave機器程序，則它會向Master機器傳送一個“sync command" 命令，請求同步連線。
② 無論是第一次連線還是重新連線，Master機器 都會啟動一個後臺程序，將資料快照儲存到資料檔案中(執行rdb操作) ，同時 Master 還會記錄修改資料的所有命令並快取在資料檔案中。
③ 後臺程序完成快取操作之後，Master 機器就會向 Slave 機器傳送資料檔案，Slave 端機器將資料檔案儲存到硬碟上，然後將其載入到記憶體中，接著 Master 機器就會將修改資料的所有操作一併傳送給 Slave 端機器。若 Slave 出現故障導致宕機，則恢復正常後會自動重新連線。
④ Master機器收到 Slave 端機器的連線後，將其完整的資料檔案傳送給 Slave 端機器，如果 Mater 同時收到多個 Slave 發來的同步請求，則 Master 會在後臺啟動一個程序以儲存資料檔案，然後將其傳送給所有的 Slave 端機器，確保所有的 Slave 端機器都正常。
3.部署Redis 主從複製
環境準備
master節點： 192.168.30.12 Redis slave1節點： 192.168.30.13 Redis slave2節點： 192.168.30.14 Redis
systemctl stop firewalld setenforce 0 -----------------安裝Redis------------------ yum install -y gcc gcc-c++ make #將redis-5.0.7.tar.gz的壓縮包上傳到/opt中 tar zxvf redis-5.0.7.tar.gz -C /opt/ cd /opt/redis-5.0.7/ make make PREFIX=/usr/local/redis install cd /opt/redis-5.0.7/utils ./install_server.sh ...... Please select the redis executable path [/usr/loca1/bin/redis-server] /usr/local/redis/bin/redis-server ln -s /usr/local/redis/bin/* /usr/local/bin/ -----------修改Redis 配置檔案(Master節點操作) ---------- vim /etc/redis/6379.conf bind 0.0.0.0 #70行，註釋掉bind項，或修改為0.0.0.0,預設監聽所有網絡卡 daemonize yes #137行，開啟守護程序 logfile /var/log/redis_6379.log #172行，指定日誌檔案目錄 dir /var/lib/redis/6379 #264行，指定工作目錄 appendonly yes #700行，開啟AOF持久化功能 /etc/init.d/redis_6379 restart -----------修改Redis 配置檔案(Slave節點操作)------------ vim /etc/redis/6379.conf bind 0.0.0.0 #70行，修改監聽地址為0.0.0.0 daemonize yes #137行，開啟守護程序 logfile /var/log/redis_6379.log #172行，指定日誌檔案目錄 dir /var/lib/redis/6379 #264行，指定工作目錄 replicaof 192.168.200.10 6379 #287行，取消註釋並指定要同步的Master節點IP和埠 appendonly yes #700行，開啟AOF持久化功能 /etc/init.d/redis_6379 restart -------------驗證主從效果------------- 在Master節點上看日誌: tail -f /var/log/redis_6379.log 在Master節點上驗證從節點: redis-cli 127.0.0.1:6379> info replication
例：
修改Redis 配置檔案(Master節點操作)
修改Redis 配置檔案(Slave1和2節點操作)
驗證主從效果
在master驗證
在master插入資料
在slave1節點檢視
在slave2節點檢視
三、Redis哨兵模式
1.核心功能
在主從複製的基礎上，哨兵引入了主節點的自動故障轉移。
2.哨兵模式的原理
哨兵(sentinel)是一個分散式系統，用於對主從結構中的每臺伺服器進行監控，當出現故障時通過投票機制選擇新的Master，並將所有Slave 連線到新的Master。所以整個執行哨兵的叢集的數量不得少於3個節點。
3.哨兵模式的作用
• 監控：哨兵會不斷地檢查主節點和從節點是否運作正常。
• 自動故障轉移：當主節點不能正常工作時，哨兵會開始自動故障轉移操作，它會將失效主節點的其中一個從節點升級為新的主節點，並讓其他從節點改為複製新的主節點。
• 通知(提醒)：哨兵可以將故障轉移的結果傳送給客戶端。
4.哨兵結構由兩部分組成，哨兵節點和資料節點
• 哨兵節點：哨兵系統由一個或多個哨兵節點組成，哨兵節點是特殊的 redis 節點，不儲存資料，埠是26379。
• 資料節點：主節點和從節點都是資料節點。
哨兵的啟動依賴於主從模式，所以須把主從模式安裝好的情況下再去做哨兵模式，所有節點上都需要部署哨兵模式，哨兵模式會監控所有的Redis 工作節點是否正常，當Master 出現問題的時候，因為其他節點與主節點失去聯絡，因此會投票，投票過半就認為這個 Master 的確出現問題，然後會通知哨兵間，然後從Slaves中選取一個作為新的 Master。
需要特別注意的是，客觀下線是主節點才有的概念；如果從節點和哨兵節點發生故障，被哨兵主觀下線後，不會再有後續的客觀下線和故障轉移操作。
5.哨兵的工作模式
1）所有哨兵都會監控節點，哨兵之間會共享伺服器的狀態資料，對整個叢集實現監控。
2）哨兵的啟動依賴於主從模式，所以須把主從模式安裝好的情況下再去做哨兵模式，所有節點上都需要部署哨兵模式，哨兵模式會監控所有的 Redis 工作節點是否正常，當Master出現問題的時候，因為其他節點與主節點失去聯絡，因此會投票，投票過半就認為這個Master的確出現問題，然後會通知哨兵間，然後從Slaves中選取一個作為新的Master。
3）需要特別注意的是，客觀下線是主節點才有的概念，如果從節點和哨兵節點發生故障，被哨兵主觀下線後，不會再有後續的客觀下線和故障轉移操作。
（1）主觀下線：當某個哨兵認為節點宕機，是主觀下線。
（2）客觀下線：當所有哨兵投票後票數過半後確認宕機為客觀下線，然後就會執行故障的切換等過程。
6.部署哨兵模式
環境準備
master節點： 192.168.30.12 Redis slave1節點： 192.168.30.13 Redis slave2節點： 192.168.30.14 Redis
systemctl stop firewalld setenforce 0 --------修改Redis哨兵模式的配置檔案(所有節點操作) -------- vim /opt/redis-5.0.7/sentinel.conf protected-mode no #17行，關閉保護模式 port 26379 #21行，Redis哨兵預設的監聽埠 daemonize yes #26行，指定sentinel為後臺啟動 logfile "/var/log/sentinel.log" #36行，指定日誌存放路徑 dir "/var/lib/redis/6379" #65行，指定資料庫存放路徑 sentinel monitor mymaster 192.168.30.12 6379 2 #84行， 修改 指定該哨兵節點監控192.168.30.12:6379這個主節點，該主節點的名稱是mymaster,最後的2的含義與主節點的故障判定有關:至少需要2個哨兵節點同意，才能判定主節點故障並進行故障轉移 sentinel down-after-milliseconds mymaster 30000 #113行,判定伺服器down掉的時間週期，預設30000毫秒(30秒) sentinel failover-timeout mymaster 180000 #146行，故障節點的最大超時時間為180000 (180秒 ) ----------啟動哨兵模式----------------- 注意：先啟master，再啟slave cd /opt/redis-5.0.7/ redis-sentinel sentinel.conf & -----------檢視哨兵資訊------------------ redis-cli -p 26379 info Sentinel # Sentinel sentinel_masters:1 sentinel_tilt:0 sentinel_running_scripts:0 sentinel_scripts_queue_length:0 sentinel_simulate_failure_flags:0 master0:name=mymaster,status=ok,address=192.168.30.12:6379,slaves=2,sentinels=3 ---------故障模擬-------------- #檢視redis-server程序號（在Master 上進行）: ps -ef | grep redis 5 S root 57521 1 0 80 0 - 39869 ep_pol 15:31 ? 00:00:02 /usr/local/redis/bin/redis-server 0.0.0.0:6379 5 S root 57951 1 0 80 0 - 38461 ep_pol 16:00 ? 00:00:01 redis-sentinel *:26379 [sentinel] 0 R root 58035 15559 0 80 0 - 28169 - 16:08 pts/2 00:00:00 grep --color=auto redis #殺死 Master 節點上redis-server的程序號 kill -9 57521 #Master節點上redis-server的程序號 #驗證結果，檢視master是轉換至從伺服器 tail -f /var/log/sentinel.log #在Slave1上檢視是否轉換成功 redis-cli -p 26379 INFO Sentinel # Sentinel sentinel_masters:1 sentinel_tilt:0 sentinel_running_scripts:0 sentinel_scripts_queue_length:0 sentinel_simulate_failure_flags:0 master0:name=mymaster,status=ok,address=192.168.200.20:6379,slaves=2,sentinels=3
例：
修改Redis哨兵模式的配置檔案(所有節點操作)
master
slave1
slave2
故障模擬
四、Redis群集模式
1.簡介
1.叢集，即Redis Cluster，是Redis 3.0開始引入的分散式儲存方案。
2.叢集由多個節點(Node)組成，Redis的資料分佈在這些節點中。叢集中的節點分為主節點和從節點：只有主節點負責讀寫請求和叢集資訊的維護；從節點只進行主節點資料和狀態資訊的複製。
2.叢集的作用
① 資料分割槽 資料分割槽(或稱資料分片) 是叢集最核心的功能。
叢集將資料分散到多個節點，一方面突破了 Redis 單機記憶體大小的限制，儲存容量大大增加；另一方面每個主節點都可以對外提供讀服務和寫服務，大大提高了叢集的響應能力。
Redis 單機記憶體大小受限問題，在介紹持久化和主從複製時都有提及；例如，如果單機記憶體太大，bgsave 和 bgrewriteaof的 fork 操作可能導致主程序阻塞，主從環境下主機切換時可能導致從節點長時間無法提供服務，全量複製階段主節點的複製緩衝區可能溢位。
② 高可用 叢集支援主從複製和主節點的自動故障轉移(與哨兵類似) ；當任一節點發生故障時，叢集仍然可以對外提供服務。
3.Redis叢集的資料分片
Redis叢集引入了雜湊槽的概念
• Redis叢集有 16384 個雜湊槽( 編號0-16383)。
• 叢集的每個節點負責一部分雜湊槽。
• 每個Key 通過 CRC16 校驗後對16384取餘來決定放置哪個雜湊槽，通過這個值，去找到對應的插槽所對應的節點，然後直接自動跳轉到這個對應的節點上進行存取操作。
4.以3個節點組成的叢集為例
節點A 包含0到5460號雜湊槽
節點B 包含5461到10922號雜湊槽
節點C 包含10923到16383號雜湊槽
5.Redis叢集的主從複製模型
叢集中具有A、B、C三個節點，如果節點B失敗了，整個叢集就會因缺少5461-10922這個範圍的槽而不可以用。
為每個節點新增一個從節點A1、B1、C1整個叢集便有三個Master節點和三個slave節點組成，在節點B失敗後，叢集選舉B1位為主節點繼續服務。當B和B1都失敗後，叢集將不可用。
6.Redis叢集部署
redis的叢集一般需要6個節點， 3主3從。方便起見，這裡所有節點在同一臺伺服器上模擬:
以埠號進行區分: 3個主節點埠號: 6001/6002/6003， 對應的從節點埠號: 6004/6005/6006
cd /etc/redis/
mkdir -p redis-cluster/redis600{1..6}
for i in {1. .6}
do
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis600$i
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis600$i
done
#開啟群集功能:
#其他5個資料夾的配置檔案以此類推修改，注意6個埠都要不一樣。
cd /etc/redis/redis-cluster/redis6001
vim redis.conf
#bind 127.0.0.1 #69行，註釋掉bind項，預設監聽所有網絡卡
protected-mode no #88行，修改，關閉保護模式
port 6001 #92行，修改，redis監聽埠
daemonize yes #136行，開啟守護程序，以獨立程序啟動
appendonly yes #699行，修改，開啟AOF持久化
cluster-enabled yes #832行，取消註釋，開啟群集功能
cluster-config-file nodes-6001.conf #840行，取消註釋，群集名稱檔案設定
cluster-node-timeout 15000 #846行，取消註釋群集超時時間設定
#可以寫一個for迴圈將6001的檔案複製給6002~6006，這樣就不需要全部一個一個檔案進行修改了
for i in {2..6}
do
/usr/bin/cp -f /etc/redis/redis-cluster/redis6001/redis.conf /etc/redis/redis-cluster/redis600$i/redis.conf
done
#之後稍微修改檔案即可
# 啟動redis節點
分別進入那六個資料夾，執行命令: redis-server redis.conf，來啟動redis節點
cd /etc/redis/redis-cluster/redis6001
redis-server redis.conf
for d in {1..6}
do
cd /etc/redis/redis-cluster/redis600$d
redis-server redis.conf
done
ps -ef | grep redis
#啟動叢集
redis-cli --cluster create 127.0.0.1:6001 127.0.0.1:6002 127.0.0.1:6003 127.0.0.1:6004 127.0.0.1:6005 127.0.0.1:6006 --cluster-replicas 1
#六個例項分為三組，每組一主一從，前面的做主節點，後面的做從節點。下面互動的時候需要輸入yes 才可以建立。
-replicas 1 #表示每個主節點有1個從節點。
#測試群集
redis-cli -p 6001 -c #加-c引數，節點之間就可以互相跳轉
127.0.0.1:6001> cluster slots #檢視節點的雜湊槽編號範圍
1) 1) (integer) 5461
2) (integer) 10922 #雜湊槽編號範圍
3) 1) "127.0.0.1" .
2) (integer) 6003 #主節點IP和埠號
3) " fdca661922216dd69a 63a7c9d3c4540cd6baef44"
4) 1) "127.0.0.1"
2) (integer) 6004 #從節點IP和埠號
3) "a2c0c32aff0f38980accd2b63d6d952812e44740"
2) 1) (integer) 0
2) (integer) 5460
3) 1) "127.0.0.1"
2) (integer) 6001
3) "0e5873747a2e2 6bdc935bc76c2ba fb19d0a54b11"
4) 1) "127.0.0.1"
2) (integer) 6006
3) "8842ef5584a85005e135fd0ee59e5a0d67b0cf8e"
3) 1) (integer) 10923
2) (integer) 16383
3) 1) "127.0.0.1"
2) (integer) 6002
3) "81 6ddaa3d14 69540b2f fbcaaf9aa867646846b30"
4) 1) "127.0.0.1"
2) (integer) 6005
3) "f847077bfe6722466e96178ae8cbb09dc8b4d5eb"
127.0.0.1:6001> set name zhangsan
-> Redirected to slot [5798] located at 127.0.0.1: 6003
OK
127.0.0.1:6001> cluster keyslot name #檢視name鍵的槽編號
(integer) 5798
例：
使用一臺主機
測試叢集