2. 程式人生 > >redis-cluster部署及資料遷移

redis-cluster部署及資料遷移

阿新 • • 發佈：2018-12-25

工作原理

Redis叢集介紹

Redis 叢集是一個提供在多個Redis間節點間共享資料的程式集。
Redis叢集並不支援處理多個keys的命令,因為這需要在不同的節點間移動資料,從而達不到像Redis那樣的效能,在高負載的情況下可能會導致不可預料的錯誤.
Redis 叢集通過分割槽來提供一定程度的可用性,在實際環境中當某個節點宕機或者不可達的情況下繼續處理命令. Redis 叢集的優勢:

  • 自動分割資料到不同的節點上。
  • 整個叢集的部分節點失敗或者不可達的情況下能夠繼續處理命令。

    Redis 叢集的資料分片

    Redis 叢集沒有使用一致性hash, 而是引入了 雜湊槽的概念.
    Redis 叢集有16384個雜湊槽,每個key通過CRC16校驗後對16384取模來決定放置哪個槽.叢集的每個節點負責一部分hash槽,舉個例子,比如當前叢集有3個節點,那麼:

  • 節點 A 包含 0 到 5500號雜湊槽.
  • 節點 B 包含5501 到 11000 號雜湊槽.
  • 節點 C 包含11001 到 16384號雜湊槽.

這種結構很容易新增或者刪除節點. 比如如果我想新添加個節點D, 我需要從節點 A, B, C中得部分槽到D上. 如果我像移除節點A,需要將A中得槽移到B和C節點上,然後將沒有任何槽的A節點從叢集中移除即可. 由於從一個節點將雜湊槽移動到另一個節點並不會停止服務,所以無論新增刪除或者改變某個節點的雜湊槽的數量都不會造成叢集不可用的狀態.

Redis 叢集的主從複製模型

為了使在部分節點失敗或者大部分節點無法通訊的情況下叢集仍然可用，所以叢集使用了主從複製模型,每個節點都會有N-1個複製品.
在我們例子中具有A，B，C三個節點的叢集,在沒有複製模型的情況下,如果節點B失敗了，那麼整個叢集就會以為缺少5501-11000這個範圍的槽而不可用.
然而如果在叢集建立的時候（或者過一段時間）我們為每個節點新增一個從節點A1，B1，C1,那麼整個叢集便有三個master節點和三個slave節點組成，這樣在節點B失敗後，叢集便會選舉B1為新的主節點繼續服務，整個叢集便不會因為槽找不到而不可用了
不過當B和B1 都失敗後，叢集是不可用的.

redis安裝過程

1、下載redis安裝包

2、解壓

cd /app
tar zxf redis-3.2.11.tar.gz 
mv redis-3.2.11.tar.gz redis

3、編譯安裝

cd redis

make && make install

4、建立相關目錄,將相關命令從src目錄複製到bin目錄

mkdir -pv /app/redis/{bin,conf,data,logs}

5、使用utils中的install_server.sh安裝redis server

部署過程

Redis-cluster搭建

1、從測試打包已經編譯redis資料夾，上傳至需要安裝的伺服器

2、解壓至app目錄，目錄結構如下，其中data,conf,logs為編譯完成後自行建立的目錄，分別用來存放資料檔案，配置檔案，日誌檔案，data目錄下自行建立以埠號命名的資料夾，分別用來存放各個埠號例項的資料檔案

-rw-rw-r--  1 root root 92766 Sep 21 22:20 00-RELEASENOTES
drwxr-xr-x  2 root root  4096 Dec 20 16:40 bin
-rw-rw-r--  1 root root    53 Sep 21 22:20 BUGS
drwxr-xr-x  2 root root  4096 Jan  4 15:37 conf
-rw-rw-r--  1 root root  1805 Sep 21 22:20 CONTRIBUTING
-rw-rw-r--  1 root root  1487 Sep 21 22:20 COPYING
drwxr-xr-x 10 root root  4096 Jan  3 11:24 data
drwxrwxr-x  7 root root  4096 Dec 20 14:50 deps
-rw-rw-r--  1 root root    11 Sep 21 22:20 INSTALL
drwxr-xr-x  2 root root  4096 Jan  4 15:37 logs
-rw-rw-r--  1 root root   151 Sep 21 22:20 Makefile
-rw-rw-r--  1 root root  4223 Sep 21 22:20 MANIFESTO
-rw-rw-r--  1 root root  6834 Sep 21 22:20 README.md
-rw-rw-r--  1 root root 46695 Sep 21 22:20 redis.conf
-rwxrwxr-x  1 root root   271 Sep 21 22:20 runtest
-rwxrwxr-x  1 root root   280 Sep 21 22:20 runtest-cluster
-rwxrwxr-x  1 root root   281 Sep 21 22:20 runtest-sentinel
-rw-rw-r--  1 root root  7606 Sep 21 22:20 sentinel.conf
drwxrwxr-x  2 root root  4096 Dec 20 14:51 src
drwxrwxr-x 10 root root  4096 Sep 21 22:20 tests
drwxrwxr-x  7 root root  4096 Jan  4 14:36 utils

3、修改各個埠的配置檔案，以node1:7000的配置檔案為例，根據情況修改

bind node1
protected-mode yes
port 7000
tcp-backlog 511
timeout 0
tcp-keepalive 300
daemonize yes
supervised no
pidfile /var/run/redis_7000.pid
loglevel notice
logfile /app/redis/logs/redis_7000.log
databases 16
save 900 1
save 300 10
save 60 10000
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes
dbfilename dump.rdb
dir /app/redis/data/7000
slave-serve-stale-data yes
slave-read-only yes
repl-diskless-sync no
repl-diskless-sync-delay 5
repl-disable-tcp-nodelay no
slave-priority 100
appendonly no
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
aof-load-truncated yes
lua-time-limit 5000
cluster-enabled yes
cluster-config-file nodes-7000.conf
cluster-node-timeout 15000
slowlog-log-slower-than 10000
slowlog-max-len 128
latency-monitor-threshold 0
notify-keyspace-events ""
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-size -2
list-compress-depth 0
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
hll-sparse-max-bytes 3000
activerehashing yes
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
hz 10
aof-rewrite-incremental-fsync yes

4、啟動對應埠的服務（所有節點的主從都啟動）,以7000為例

/app/redis/bin/redis-server  /app/redis/conf/7000.conf

5、建立叢集

 /app/redis/bin/redis-trib.rb create node1:7000 node2:7000 node2:7000

[[email protected] bin]# ./redis-trib.rb check node1:7000
>>> Performing Cluster Check (using node node1:7000)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:5461-10922 (5461 slots) master
   0 additional replica(s)
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:0-5460 (5461 slots) master
   0 additional replica(s)
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:10923-16383 (5461 slots) master
   0 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

6、從節點的新增需要在資料遷移之後

資料遷移

1、將所有的slot都轉移到一臺主例項


[[email protected] bin]# ./redis-trib.rb reshard --from b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f   --to 3b485951a72e16133464585dc2920c10ce75967b  --slots 5462 --yes node1:7000

[[email protected] bin]# ./redis-trib.rb reshard --from 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc   --to 3b485951a72e16133464585dc2920c10ce75967b  --slots 5462 --yes node1:7000

2、將原有的阿里雲redis備份rdb檔案下載放到對應目錄

cp /app/hins2533955_data_20180105195042.rdb /app/redis/data/7000/dump.rdb

3、重啟將備份檔案讀入,重啟完成連線進入使用dbsize檢視資料是否匯入

/app/redis/bin/redis-cli -h node1 -p 7000 shutdown
/app/redis/bin/redis-server /app/redis/conf/7000.conf

4、重新分配slot

[[email protected] bin]# ./redis-trib.rb reshard --from 3b485951a72e16133464585dc2920c10ce75967b   --to b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f  --slots 5462 --yes node2:7000

[[email protected] bin]# ./redis-trib.rb reshard --from 3b485951a72e16133464585dc2920c10ce75967b   --to 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc  --slots 5462 --yes node3:7000

5、增加從節點,各節點對應關係：

1.node1:7000(主)---》node4:7000(從)
2.node2:7000(主)---》node5:7000(從)
3.node3:7000(主)---》 node6:7000(從)
[[email protected] bin]# ./redis-trib.rb check node1.7000
Invalid IP or Port (given as node1.7000) - use IP:Port format
[[email protected] bin]# ./redis-trib.rb check node1:7000
>>> Performing Cluster Check (using node node1:7000)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:10924-16383 (5460 slots) master
   0 additional replica(s)
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:0-5461 (5462 slots) master
   0 additional replica(s)
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:5462-10923 (5462 slots) master
   0 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
[[email protected] bin]# ./redis-trib.rb add-node --slave --master-id 3b485951a72e16133464585dc2920c10ce75967b  node4:7000 node1:7000
>>> Adding node node4:7000 to cluster node1:7000
>>> Performing Cluster Check (using node node1:7000)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:10924-16383 (5460 slots) master
   0 additional replica(s)
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:0-5461 (5462 slots) master
   0 additional replica(s)
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:5462-10923 (5462 slots) master
   0 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Send CLUSTER MEET to node node4:7000 to make it join the cluster.
Waiting for the cluster to join...
>>> Configure node as replica of node1:7000.
[OK] New node added correctly.
[[email protected] bin]# ./redis-trib.rb add-node --slave --master-id b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f  node5:7000 node2:7000
>>> Adding node node5:7000 to cluster node2:7000
>>> Performing Cluster Check (using node node2:7000)
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:0-5461 (5462 slots) master
   0 additional replica(s)
S: 8ff59145b1d3d7fd57923f3cb9c3444f7236d7b1 node4:7000
   slots: (0 slots) slave
   replicates 3b485951a72e16133464585dc2920c10ce75967b
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:5462-10923 (5462 slots) master
   0 additional replica(s)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:10924-16383 (5460 slots) master
   1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Send CLUSTER MEET to node node5:7000 to make it join the cluster.
Waiting for the cluster to join.
>>> Configure node as replica of node2:7000.
[OK] New node added correctly.
[[email protected] bin]# ./redis-trib.rb add-node --slave --master-id 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc  node6:7000 node3:7000
>>> Adding node node6:7000 to cluster node3:7000
>>> Performing Cluster Check (using node node3:7000)
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:5462-10923 (5462 slots) master
   0 additional replica(s)
S: c09449b9dce5af4ac485ccedb664188229d75430 node5:7000
   slots: (0 slots) slave
   replicates b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f
S: 8ff59145b1d3d7fd57923f3cb9c3444f7236d7b1 node4:7000
   slots: (0 slots) slave
   replicates 3b485951a72e16133464585dc2920c10ce75967b
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:0-5461 (5462 slots) master
   1 additional replica(s)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:10924-16383 (5460 slots) master
   1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Send CLUSTER MEET to node node6:7000 to make it join the cluster.
Waiting for the cluster to join.
>>> Configure node as replica of node3:7000.
[OK] New node added correctly.

[[email protected] bin]# ./redis-trib.rb check node1:7000
>>> Performing Cluster Check (using node node1:7000)
M: 3b485951a72e16133464585dc2920c10ce75967b node1:7000
   slots:10924-16383 (5460 slots) master
   1 additional replica(s)
S: 8ff59145b1d3d7fd57923f3cb9c3444f7236d7b1 node4:7000
   slots: (0 slots) slave
   replicates 3b485951a72e16133464585dc2920c10ce75967b
S: 7501954b635724d66285afbb95841f4b49df5645 node6:7000
   slots: (0 slots) slave
   replicates 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc
S: c09449b9dce5af4ac485ccedb664188229d75430 node5:7000
   slots: (0 slots) slave
   replicates b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f
M: 54d5eb9415289228b05b28fe585bd5ab6e9bc0bc node3:7000
   slots:5462-10923 (5462 slots) master
   1 additional replica(s)
M: b6dd7c3d5af4ffc37e70d7eb538a3f9b0ae5a84f node2:7000
   slots:0-5461 (5462 slots) master
   1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

相關推薦

redis-cluster部署及資料遷移

工作原理 Redis叢集介紹 Redis 叢集是一個提供在多個Redis間節點間共享資料的程式集。 Redis叢集並不支援處理多個keys的命令,因為這需要在不同的節點間移動資料,從而達不到像Redis那樣的效能,在高負載的情況下可能會導致不可預料的錯誤. Redis

10-redis cluster的自動化slave遷移實現更強的高可用架構的部署方案

slave的自動遷移 比如現在有10個master，每個有1個slave，然後新增了3個slave作為冗餘，有的master就有2個slave了，有的master出現了salve冗餘 如果某個master的slave掛了，那麼redis cluster會自動

【docker】【redis】2.docker上設置redis集群---Redis Cluster部署、管理和測試【集群服務】

測試 details cluster red 集群 tail .net 設置 com 參考地址：https://www.cnblogs.com/zhoujinyi/p/6477133.html https://www.cnblogs.com/cxbhakim/p/91517

TiDB 部署及資料同步

簡介 TiDB 是 PingCAP 公司受 Google Spanner / F1 論文啟發而設計的開源分散式 HTAP (Hybrid Transactional and Analytical Processing) 資料庫， 結合了傳統的 RDBMS 和 NoSQL 的最佳特性。TiDB 相容 MySQ

redis cluster 部署過程

一, 特點 高效能：　　1、在多分片節點中，將16384個槽位，均勻分佈到多個分片節點中　　2、存資料時，將key做crc16(key),然後和16384進行取模，得出槽位值（0-16383之間）　　3、根據計算得出的槽位值，找到相對應的分片節點的主節點，儲存到相應槽位上　　4、如果客戶端當時連線的節點不是

Redis叢集Redis-cluster搭建及測試

一、Redis叢集部署 三臺物理機：172.20.0.17、172.20.0.18、172.20.0.19 二、安裝Redis 下載安裝redis壓縮包 解壓壓縮包，進入redis-5.0.2資料夾，執行命令./make install安裝redis mv redis-5.0.2 /usr/loca

Oracle 資料備份和恢復及資料遷移

資料庫備份及備份的方式 物理備份 冷備份 熱備份 邏輯備份 exp/imp expdp/impdp Oracle的恢復 例項恢復-Crash recovery 當資料庫庫因非正常方式關閉後，再次開啟時，需要進行例項恢復。 – 伺服器掉電 – 作業系

redis-cluster的上萬資料測試

Redis-cluster叢集資料測試 測試資料10000條 儲存10000條資料速度：8072ms 資料分佈情況：均勻儲存在三個主節點上，   取某一條key用時：10ms ： 當一臺主節點宕機後，該主節點的某一個key，能否繼續取出：能取

Redis Cluster部署、管理和測試

>>> Performing Cluster Check (using node 192.168.100.134:17021) M: 7fa64d250b595d8ac21a42477af5ac8c07c35d83 192.168.100.134:17021 slots:2-5460

Redis Cluster 叢集及動態擴容

Redis cluster叢集認識及動態擴容機制，參考網上資料，在此整理下。 Redis單機資料庫 在瞭解Redis Cluster之前，先了解下Redis單機資料庫，Redis支援多個數據庫，並且每個資料庫的資料是隔離的不能共享，並且基於單機才

【HBase】HBase各功能元件、整合MapReduce的方式及資料遷移

1、HBase體系架構 各個功能元件闡述如下： （1）Client 整個HBase叢集的訪問入口； 使用HBase RPC機制與HMaster和HRegionServer進行通訊； 與HMaster進行通訊進行管理類操作； 與HRegionServer進行資

Hello,MongoDB_安裝及資料遷移

2017.7.26大四來北京實習，到剛才已經是一整年了。向陽而生，好好生活。 公司專案最近需要重新搭建伺服器，所以要對該專案所使用的MongoDB進行資料遷移。對於找不到MongoDB安裝包的同學附上官網。最近MongoDB官網上的正式版本已經升級到4.0版本

SparkR安裝部署及資料分析例項

1. SparkR的安裝配置 1.1.       R與Rstudio的安裝 1.1.1.           R的安裝 我們的工作環境都是在Ubuntu下操作的，所以只介紹Ubuntu下安裝R的方法： 1）  在/etc/apt/sources.list新增源

redis 叢集部署及分散式鎖的實現

一、redis叢集的部署安裝redis確保安裝資料夾有redis-trib.rb檔案，通過rudy構建redis叢集安裝ruby環境配置好環境變數，gem install redis 安裝redis依賴詳細環境安裝教程：點選開啟連結叢集搭建      redis叢集最小包含3

.NET中Redis安裝部署及使用方法簡介附->開源Redis操作輔助類

　　　　Redis是一個用的比較廣泛的Key/Value的記憶體資料庫，新浪微博、Github、StackOverflow 等大型應用中都用其作為快取，Redis的官網為http://redis.io/。　　Redis 是一個key-value儲存系統。和Memcached類

redis cluster部署

作業系統版本：ubuntu12.04 redis版本：redis-3.0.1.tar.gz 以下是三臺伺服器，每臺伺服器包含一個master、一個slave，共6個節點。 依賴庫安裝 1、安裝ruby： apt-get install ruby 2、安裝rubygem

saltStack運維工具的部署及master遷移實現的過程詳解

伺服器端：192.168.3.87 客戶端：192.168.3.86、192.168.3.108 1.salt伺服器端安裝 192.168.3.87 rpm -Uvh http://mirrors.yun-idc.com/epel/6Server/x86_64/epel-r

Redis Cluster 叢集一致性原理及slot遷移測試

叢集資訊一致性問題 主從和slot的一致性是由epoch來管理的. epoch就像Raft中的term, 但僅僅是像. 每個節點有一個自己獨特的epoch和整個叢集的epoch, 為簡化下面都稱為node epoch和cluster epoch. node epoc

資料遷移工具 sqoop 安裝部署及實戰

目錄 概述 工作機制 安裝部署 實戰 1.概述 sqoop是apache旗下一款“Hadoop和關係資料庫伺服器之間傳送資料”的工具。 匯入資料：MySQL，Oracle匯入資料到Hadoop的HDFS、HIVE、HBASE等資料儲存系統； 匯

Redis部署及參數筆記

redis部署 redis參數 Redis Cluster是Redis的集群實現，內置數據自動分片機制，集群內部將所有的key映射到16384個Slot中，集群中的每個Redis Instance負責其中的一部分的Slot的讀寫。 集群客戶端連接集群中任一Redis Instance即可發送命令，當R