redis主從+sentinel故障轉移部署
redis是一個key-value存儲系統。和Memcached類似,它支持存儲的value類型相對更多,包括string(字符串)、list(鏈表)、set(集合)和zset(有序集合)。這些數據類型都支持push/pop、add/remove及取交集並集和差集及更豐富的操作,而且這些操作都是原子性的。在此基礎上,redis支持各種不同方式的排序。與memcached一樣,為了保證效率,數據都是緩存在內存中。區別的是redis會周期性的把更新的數據寫入磁盤或者把修改操作寫入追加的記錄文件,並且在此基礎上實現了master-slave(主從)同步。
redis集群原理:
redis集群好處: 容錯,可解決單節點redis問題;可擴展性,多節點部署;性能提升。
2)節點的fail是通過集群中超過半數節點檢測失效才生效。
3)客戶端與redis節點直連,不需要中間proxy層,客戶端不需要連接集群所有節點,連接集群中任何一個節點即可。
4)redis-cluster把所有的物理節點映射到[0-16383]個槽slot上,cluster負責維護node<->slot<->value Redis cluster中內置了16384個哈希槽,當需要在redis集群中放置一個key-value時,redis先對key使用crc16算法算出一個結果,然後把結果對16384求余數,這樣就保證每個key都會對應到0-16383之間的哈希槽,redis會根據節點的數量大致均等的將哈希槽映射到不同的節點。
redis主從復制+sentinel故障轉移
環境:
OS:centos
redis版本:Redis3.0以上
節點:
master 192.168.10.78 (redis+sentinel)
slave01 192.168.10.80 (redis+sentinel)
slave01 192.168.10.81 (redis+sentinel)
1.redis安裝yum install -y make gcc gcc-c++ zlib-devel openssl openssl-devel pcre-devel kernel keyutils patch perl
192.168.10.78主
cd/usr/local/redis-3.0.7/redis-master/ make make install make test(test可不操作)
192.168.10.80和192.168.10.80同理。
2.redis配置
以主機192.168.10.78主為例。
echo vm.overcommit_memory=1 >> /etc/sysctl.conf
sysctl vm.overcommit_memory=1
其中, "0:表示內核將檢查是否有足夠的可用內存供應用進程使用,1:表示內核允許分配所有的物理內存,而不管當前的內存狀態如何"。
vim /usr/local/redis-3.0.7/redis-master/src/redis.conf
修改如下幾行
daemonize yes //後臺運行
port 6379
logfile "/var/log/redis.log"
tcp-backlog 65535 # 提高tcp backlog的數量
maxclients 20000 #此值不可設置的過大,以為每個socket連接會以“文件描述符”方式被系統打開,
所以受Linux系統“文件描述符”限制。如果超過系統設置,server會拒絕連接。
maxmemory 6gb #最好是物理內存的3/4,與maxmemory-policy配合使用
maxmemory-policy allkeys-lru # Redis內存回收策略,內存不足時,數據清除策略。
lru = last recent updated,建議采用allkeys-lru內存回收策略。
maxmemory-samples 3 #內存回收策略lru和ttl策略並非嚴禁策略,采用估算方式,
因此選擇取樣方式以便檢查。選擇3個key,從中淘汰不經常用的。
slave-serve-stale-data yes # 讓Redis slave可以回復客戶請求,及時它沒有被完全同步(sync)。即如果當前server為slave,
當 slave 與 master 失去通訊,是否繼續為客戶提供服務。
slave-read-only yes # 禁止Slave有被不小心直接寫入的可能,salve為只讀方式。
#關閉Redis往磁盤寫入,提高性能
#save 900 1
#save 300 10
#save 60 10000
min-slaves-to-write 1 # 這裏保障,redis master至少要有1個連接得上的slave才可被寫入,用來減少replication丟數據的機會
min-slaves-max-lag 10 # 這裏保障,redis master會停止寫入,如果在10秒內收不到從slave的replication確認回饋
192.168.10.80 和 192.168.10.81 配置同上,修改相應端口即可。
80: slaveof 192.168.10.78 6379
81: slaveof 192.168.10.78 6379
3.sentinel 配置
Redis Sentinel 是一個分布式系統,可監控(Monitoring)、提醒(Notification)和 自動故障遷移(Automatic failover)。
可以在一個架構中運行多個 Sentinel 進程(progress), 這些進程使用流言協議(gossip protocols)來接收關於主服務器是否下線的信息, 並使用投票協議(agreement protocols)來決定是否執行自動故障遷移, 以及選擇哪個從服務器作為新的主服務器。
192.168.10.78主要配置項說明:
vim /etc/sentinel.conf
port 26379 #指定sentinel的偵聽端口(即與redis server或client建立tcp連接的端口)
dir /usr/local/redis-3.0.7/redis-master/src
sentinel monitor mymaster 127.0.0.1 6379 2 #指定sentinel要monitor的redis實例,包括一個redis實例的別名(alias)及redis實例的ip+port,該行最後的數字2表示至少2個setinel實例同時檢測到redis server異常時,才將redis server的狀態判決為real fail。
sentinel down-after-milliseconds mymaster 20000 #指定sentinel監控到redis實例持續異常多長時間後(20s),會判決其狀態為down。
sentinel failover-timeout mymaster 60000 #若sentinel在該配置值內(60s)未能完成failover操作(即故障時master/slave自動切換),則認為本次failover失敗。
sentinel parallel-syncs mymaster 1 #指定failover過程中,同時被sentinel reconfigure的最大slave實例數。由於reconfigure過程中,對應的slave會中斷響應客戶端請求,故為避免所有的slave同時不可用,該值需適當配小。
192.168.10.80從主要配置:
port 26380
dir /usr/local/redis-3.0.7/src
sentinel monitor mymaster 192.168.10.78 6379 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
sentinel parallel-syncs mymaster 1
192.168.10.81從主要配置:
port 26381
dir /usr/local/redis-3.0.7/src
sentinel monitor mymaster 192.168.10.78 6379 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
sentinel parallel-syncs mymaster 1
4.啟動
redis
192.168.10.78:
cd /usr/local/redis-3.0.7/redis-master
./src/redis-server ./redis-6379.conf &
192.168.10.80:
cd /usr/local/redis-3.0.7
./src/redis-server ./redis-6380.conf &
192.168.10.81:
cd /usr/local/redis-3.0.7
./src/redis-server ./redis-6381.conf &
sentinel
192.168.10.78:
cd /usr/local/redis-3.0.7/redis-master
./src/redis-server ./sentinel-26379.conf --sentinel &
192.168.10.80:
cd /usr/local/redis-3.0.7/
./src/redis-server ./sentinel-26380.conf --sentinel &
192.168.10.81:
cd /usr/local/redis-3.0.7
./src/redis-server ./sentinel-26381.conf --sentinel &
5.測試
連接redis端口
./redis-cli -h 127.0.0.1 -p 6379
info replication
./src/redis-cli -h 127.0.0.1 -p 6379 info replication
./src/redis-cli -h 127.0.0.1 -p 26379 info Sentinel
內存使用情況查看:
redis-cli -h 127.0.0.1 info | grep memory
連接sentinel監控端口測試:
./redis-cli -h 127.0.0.1 -p 26379
SENTINEL get-master-addr-by-name mymaster
註意:
1、主從切換後,redis.conf、sentinel.conf內容都會改變reconfiguration,主要還想要原來的主從架構,要再修改配置文件;
2、master掛掉,sentinel已經選擇了新的master,但是還沒有將其改成master,但是已經將old master改成了slave。那麽這時候如果重啟old master,就會處於無主狀態。所以一方面要等sentinel穩定後再啟動old master,或者重新人工修改配置文件,重新啟動集群。
3、再把服務已關閉的redis(old master)恢復服務狀態,redis sentinel 集群服務,會把上次主redis重新加入服務中,但是他再以不是主的redis了,變成從的reids。
4、如果此後想再次讓redis-0加入集群,你需要首先通過"INFO"指令找到當前的masterip + port,並在啟動指令中明確指明slaveof參數:./redis-server --include /etc/redis.conf --slaveof 192.168.10.80 6380
redis主從+sentinel故障轉移部署