搭建redis叢集實現分散式快取(一)
redis是一個高階快取,使用到redis作為我們專案的快取,所以就花了一天時間研究了一下redis的一些用法,因為沒轉linux虛擬機器,所以就決定先研究一下windows版本的redis叢集。主要是redis叢集的皮毛:
1.首先下載windows版本的redis:https://github.com/MSOpenTech/redis,如果需要,也可以向我要,我這裡有每一個版本的。
2,將下載的壓縮包解壓以後,裡面一些配置檔案和執行程式,現在用到的有redis.windows.conf,這個是最主要的配置檔案,redis-server.exe,這個是啟動redis的程式,redis-cli.exe這個是客戶端連線redis程式,
3簡單的講一下conf的配置:
# bind 192.168.1.100 10.0.0.1 # bind 127.0.0.1
bind表示的繫結的ip。預設情況下,redis會響應本機所有可用網絡卡的連線請求。
timeout 0
當一個redis-client一直沒有請求發向server端,那麼server端有權主動關閉這個連線,可以通過timeout來設定“空閒超時時限”,0表示永不關閉。
tcp-keepalive 0
TCP連線保活策略,可以通過tcp-keepalive配置項來進行設定,單位為秒,假如設定為60秒,則server端會每60秒向連線空閒的客戶端發起一次ACK請求,以檢查客戶端是否已經掛掉,對於無響應的客戶端則會關閉其連線。所以關閉一個連線最長需要120秒的時間。如果設定為0,則不會進行保活檢測。
daemonize no
預設情況下,redis並不是以daemon形式來執行的。通過daemonize配置項可以控制redis的執行形式,如果改為yes,那麼redis就會以daemon形式執行:當以daemon形式執行時,redis會生成一個pid檔案,預設會生成在/var/run/redis.pid。當然,你可以通過pidfile來指定pid檔案生成的位置,比如:
pidfile /path/to/redis.pid
redis支援通過loglevel配置項設定日誌等級,共分四級,即debug、verbose、notice、warning。
loglevel notice
redis也支援通過logfile配置項來設定日誌檔案的生成位置。如果設定為空字串,則redis會將日誌輸出到標準輸出。假如你在daemon情況下將日誌設定為輸出到標準輸出,則日誌會被寫到/dev/null中。
logfile ""
如果希望日誌列印到syslog中,也很容易,通過syslog-enabled來控制。另外,syslog-ident還可以讓你指定syslog裡的日誌標誌,比如:
syslog-ident redis
而且還支援指定syslog裝置,值可以是USER或LOCAL0-LOCAL7。具體可以參考syslog服務本身的用法
syslog-facility local0
對於redis來說,可以設定其資料庫的總數量,假如你希望一個redis包含16個數據庫,那麼設定如下:
databases 16
上面這些是一些基本的redis配置,下面的這些功能是選擇性的,所以預設配置檔案中都是關閉的,
快照:
# save <seconds> <changes>
我們可以用如上的指令來讓資料儲存到磁碟上,即控制RDB快照功能,下面舉個例子:
save 900 1 //表示每15分鐘且至少有1個key改變,就觸發一次持久化 save 300 10 //表示每5分鐘且至少有10個key改變,就觸發一次持久化 save 60 10000 //表示每60秒至少有10000個key改變,就觸發一次持久化
如果你想禁用RDB持久化的策略,只要不設定任何save指令就可以,或者給save傳入一個空字串引數也可以達到相同效果,就像這樣:
save ""
如果使用者開啟了RDB快照功能,那麼在redis持久化資料到磁碟時如果出現失敗,預設情況下,redis會停止接受所有的寫請求。這樣做的好處在於可以讓使用者很明確的知道記憶體中的資料和磁碟上的資料已經存在不一致了。如果redis不顧這種不一致,一意孤行的繼續接收寫請求,就可能會引起一些災難性的後果。
如果下一次RDB持久化成功,redis會自動恢復接受寫請求。
當然,如果你不在乎這種資料不一致或者有其他的手段發現和控制這種不一致的話,你完全可以關閉這個功能,以便在快照寫入失敗時,也能確保redis繼續接受新的寫請求。配置項如下:
stop-writes-on-bgsave-error yes
對於儲存到磁碟中的快照,可以設定是否進行壓縮儲存。如果是的話,redis會採用LZF演算法進行壓縮。如果你不想消耗CPU來進行壓縮的話,可以設定為關閉此功能,但是儲存在磁碟上的快照會比較大。
rdbcompression yes
在儲存快照後,我們還可以讓redis使用CRC64演算法來進行資料校驗,但是這樣做會增加大約10%的效能消耗,如果你希望獲取到最大的效能提升,可以關閉此功能。
rdbchecksum yes
我們還可以設定快照檔案的名稱,預設是這樣配置的:
dbfilename dump.rdb
最後,你還可以設定這個快照檔案存放的路徑。比如預設設定就是當前資料夾:
dir ./
【教你看懂redis配置 – 複製】
redis提供了主從同步功能。
通過slaveof配置項可以控制某一個redis作為另一個redis的從伺服器,通過指定IP和埠來定位到主redis的位置。一般情況下,我們會建議使用者為從redis設定一個不同頻率的快照持久化的週期,或者為從redis配置一個不同的服務埠等等。
slaveof <masterip> <masterport>
如果主redis設定了驗證密碼的話(使用requirepass來設定),則在從redis的配置中要使用masterauth來設定校驗密碼,否則的話,主redis會拒絕從redis的訪問請求。
masterauth <master-password>
當從redis失去了與主redis的連線,或者主從同步正在進行中時,redis該如何處理外部發來的訪問請求呢?這裡,從redis可以有兩種選擇:
第一種選擇:如果slave-serve-stale-data設定為yes(預設),則從redis仍會繼續響應客戶端的讀寫請求。
第二種選擇:如果slave-serve-stale-data設定為no,則從redis會對客戶端的請求返回“SYNC with master in progress”,當然也有例外,當客戶端發來INFO請求和SLAVEOF請求,從redis還是會進行處理。
你可以控制一個從redis是否可以接受寫請求。將資料直接寫入從redis,一般只適用於那些生命週期非常短的資料,因為在主從同步時,這些臨時資料就會被清理掉。自從redis2.6版本之後,預設從redis為只讀。
slave-read-only yes
只讀的從redis並不適合直接暴露給不可信的客戶端。為了儘量降低風險,可以使用rename-command指令來將一些可能有破壞力的命令重新命名,避免外部直接呼叫。比如:
rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c52
從redis會週期性的向主redis發出PING包。你可以通過repl_ping_slave_period指令來控制其週期。預設是10秒。
repl-ping-slave-period 10
在主從同步時,可能在這些情況下會有超時發生:
1.以從redis的角度來看,當有大規模IO傳輸時。
2.以從redis的角度來看,當資料傳輸或PING時,主redis超時
3.以主redis的角度來看,在回覆從redis的PING時,從redis超時
使用者可以設定上述超時的時限,不過要確保這個時限比repl-ping-slave-period的值要大,否則每次主redis都會認為從redis超時。
repl-timeout 60
我們可以控制在主從同步時是否禁用TCP_NODELAY。如果開啟TCP_NODELAY,那麼主redis會使用更少的TCP包和更少的頻寬來向從redis傳輸資料。但是這可能會增加一些同步的延遲,大概會達到40毫秒左右。如果你關閉了TCP_NODELAY,那麼資料同步的延遲時間會降低,但是會消耗更多的頻寬。(如果你不瞭解TCP_NODELAY,可以到這裡來科普一下)。
repl-disable-tcp-nodelay no
我們還可以設定同步佇列長度。佇列長度(backlog)是主redis中的一個緩衝區,在與從redis斷開連線期間,主redis會用這個緩衝區來快取應該發給從redis的資料。這樣的話,當從redis重新連線上之後,就不必重新全量同步資料,只需要同步這部分增量資料即可
repl-backlog-size 1mb
如果主redis等了一段時間之後,還是無法連線到從redis,那麼緩衝佇列中的資料將被清理掉。我們可以設定主redis要等待的時間長度。如果設定為0,則表示永遠不清理。預設是1個小時。
repl-backlog-ttl 3600
我們可以給眾多的從redis設定優先順序,在主redis持續工作不正常的情況,優先順序高的從redis將會升級為主redis。而編號越小,優先順序越高。比如一個主redis有三個從redis,優先順序編號分別為10、100、25,那麼編號為10的從redis將會被首先選中升級為主redis。當優先順序被設定為0時,這個從redis將永遠也不會被選中。預設的優先順序為100。
slave-priority 100
假如主redis發現有超過M個從redis的連線延時大於N秒,那麼主redis就停止接受外來的寫請求。這是因為從redis一般會每秒鐘都向主redis發出PING,而主redis會記錄每一個從redis最近一次發來PING的時間點,所以主redis能夠了解每一個從redis的執行情況。
min-slaves-to-write 3 min-slaves-max-lag 10
上面這個例子表示,假如有大於等於3個從redis的連線延遲大於10秒,那麼主redis就不再接受外部的寫請求。上述兩個配置中有一個被置為0,則這個特性將被關閉。預設情況下min-slaves-to-write為0,而min-slaves-max-lag為10。
【教你看懂redis配置 – 安全】
我們可以要求redis客戶端在向redis-server傳送請求之前,先進行密碼驗證。當你的redis-server處於一個不太可信的網路環境中時,相信你會用上這個功能。由於redis效能非常高,所以每秒鐘可以完成多達15萬次的密碼嘗試,所以你最好設定一個足夠複雜的密碼,否則很容易被黑客破解。
requirepass zhimakaimen
這裡我們通過requirepass將密碼設定成“芝麻開門”。
redis允許我們對redis指令進行更名,比如將一些比較危險的命令改個名字,避免被誤執行。比如可以把CONFIG命令改成一個很複雜的名字,這樣可以避免外部的呼叫,同時還可以滿足內部呼叫的需要:
rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c89
我們甚至可以禁用掉CONFIG命令,那就是把CONFIG的名字改成一個空字串:
rename-command CONFIG ""
但需要注意的是,如果你使用AOF方式進行資料持久化,或者需要與從redis進行通訊,那麼更改指令的名字可能會引起一些問題。
【教你看懂redis配置 -限制】
我們可以設定redis同時可以與多少個客戶端進行連線。預設情況下為10000個客戶端。當你無法設定程序檔案控制代碼限制時,redis會設定為當前的檔案控制代碼限制值減去32,因為redis會為自身內部處理邏輯留一些控制代碼出來。
如果達到了此限制,redis則會拒絕新的連線請求,並且向這些連線請求方發出“max number of clients reached”以作迴應。
maxclients 10000
我們甚至可以設定redis可以使用的記憶體量。一旦到達記憶體使用上限,redis將會試圖移除內部資料,移除規則可以通過maxmemory-policy來指定。
如果redis無法根據移除規則來移除記憶體中的資料,或者我們設定了“不允許移除”,那麼redis則會針對那些需要申請記憶體的指令返回錯誤資訊,比如SET、LPUSH等。但是對於無記憶體申請的指令,仍然會正常響應,比如GET等。
maxmemory <bytes>
需要注意的一點是,如果你的redis是主redis(說明你的redis有從redis),那麼在設定記憶體使用上限時,需要在系統中留出一些記憶體空間給同步佇列快取,只有在你設定的是“不移除”的情況下,才不用考慮這個因素。
對於記憶體移除規則來說,redis提供了多達6種的移除規則。他們是:
1.volatile-lru:使用LRU演算法移除過期集合中的key
2.allkeys-lru:使用LRU演算法移除key
3.volatile-random:在過期集合中移除隨機的key
4.allkeys-random:移除隨機的key
5.volatile-ttl:移除那些TTL值最小的key,即那些最近才過期的key。
6.noeviction:不進行移除。針對寫操作,只是返回錯誤資訊。
無論使用上述哪一種移除規則,如果沒有合適的key可以移除的話,redis都會針對寫請求返回錯誤資訊。
maxmemory-policy volatile-lru
LRU演算法和最小TTL演算法都並非是精確的演算法,而是估算值。所以你可以設定樣本的大小。假如redis預設會檢查三個key並選擇其中LRU的那個,那麼你可以改變這個key樣本的數量。
最後,我們補充一個資訊,那就是到目前版本(2.8.4)為止,redis支援的寫指令包括瞭如下這些:
set setnx setex append
incr decr rpush lpush rpushx lpushx linsert lset rpoplpush sadd
sinter sinterstore sunion sunionstore sdiff sdiffstore zadd zincrby
zunionstore zinterstore hset hsetnx hmset hincrby incrby decrby
getset mset msetnx exec sort
【教你看懂redis配置 – 追加模式】
預設情況下,redis會非同步的將資料持久化到磁碟。這種模式在大部分應用程式中已被驗證是很有效的,但是在一些問題發生時,比如斷電,則這種機制可能會導致數分鐘的寫請求丟失。
如博文上半部分中介紹的,追加檔案(Append Only File)是一種更好的保持資料一致性的方式。即使當伺服器斷電時,也僅會有1秒鐘的寫請求丟失,當redis程序出現問題且作業系統執行正常時,甚至只會丟失一條寫請求。
我們建議大家,AOF機制和RDB機制可以同時使用,不會有任何衝突。對於如何保持資料一致性的討論,請參見本文。:
appendonly no
我們還可以設定aof檔案的名稱:
fsync()呼叫,用來告訴作業系統立即將快取的指令寫入磁碟。一些作業系統會“立即”進行,而另外一些作業系統則會“儘快”進行。
redis支援三種不同的模式:
1.no:不呼叫fsync()。而是讓作業系統自行決定sync的時間。這種模式下,redis的效能會最快。
2.always:在每次寫請求後都呼叫fsync()。這種模式下,redis會相對較慢,但資料最安全。
3.everysec:每秒鐘呼叫一次fsync()。這是效能和安全的折衷。
預設情況下為everysec。有關資料一致性的揭祕,可以參考本文。
appendfsync everysec
當fsync方式設定為always或everysec時,如果後臺持久化程序需要執行一個很大的磁碟IO操作,那麼redis可能會在fsync()呼叫時卡住。目前尚未修復這個問題,這是因為即使我們在另一個新的執行緒中去執行fsync(),也會阻塞住同步寫呼叫。
為了緩解這個問題,我們可以使用下面的配置項,這樣的話,當BGSAVE或BGWRITEAOF執行時,fsync()在主程序中的呼叫會被阻止。這意味著當另一路程序正在對AOF檔案進行重構時,redis的持久化功能就失效了,就好像我們設定了“appendsync none”一樣。如果你的redis有時延問題,那麼請將下面的選項設定為yes。否則請保持no,因為這是保證資料完整性的最安全的選擇。
no-appendfsync-on-rewrite no
我們允許redis自動重寫aof。當aof增長到一定規模時,redis會隱式呼叫BGREWRITEAOF來重寫log檔案,以縮減檔案體積。
redis是這樣工作的:redis會記錄上次重寫時的aof大小。假如redis自啟動至今還沒有進行過重寫,那麼啟動時aof檔案的大小會被作為基準值。這個基準值會和當前的aof大小進行比較。如果當前aof大小超出所設定的增長比例,則會觸發重寫。另外,你還需要設定一個最小大小,是為了防止在aof很小時就觸發重寫。
auto-aof-rewrite-percentage 100auto-aof-rewrite-min-size 64mb
如果設定auto-aof-rewrite-percentage為0,則會關閉此重寫功能。
【教你看懂redis配置 – LUA指令碼】
lua指令碼的最大執行時間是需要被嚴格限制的,要注意單位是毫秒:
lua-time-limit 5000
如果此值設定為0或負數,則既不會有報錯也不會有時間限制。
【教你看懂redis配置 – 慢日誌】
redis慢日誌是指一個系統進行日誌查詢超過了指定的時長。這個時長不包括IO操作,比如與客戶端的互動、傳送響應內容等,而僅包括實際執行查詢命令的時間。
針對慢日誌,你可以設定兩個引數,一個是執行時長,單位是微秒,另一個是慢日誌的長度。當一個新的命令被寫入日誌時,最老的一條會從命令日誌佇列中被移除。
單位是微秒,即1000000表示一秒。負數則會禁用慢日誌功能,而0則表示強制記錄每一個命令。
slowlog-log-slower-than 10000
慢日誌最大長度,可以隨便填寫數值,沒有上限,但要注意它會消耗記憶體。你可以使用SLOWLOG RESET來重設這個值。
【教你看懂redis配置 – 事件通知】
redis可以向客戶端通知某些事件的發生。這個特性的具體解釋可以參見本文。
【教你看懂redis配置 – 高階配置】
有關雜湊資料結構的一些配置項:
hash-max-ziplist-entries 512hash-max-ziplist-value 64
有關列表資料結構的一些配置項:
list-max-ziplist-entries 512
list-max-ziplist-value 64
有關集合資料結構的配置項:
set-max-intset-entries 512
有關有序集合資料結構的配置項:
zset-max-ziplist-value 64
關於是否需要再雜湊的配置項:
關於客戶端輸出緩衝的控制項:
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
有關頻率的配置項:
hz 10
有關重寫aof的配置項: