雖然這個業務不是我負責，但是也跟相關的人聊了下情況，感慨了一下，於是有了這一篇文章。

1.為何需要快取？

在高併發請求時，為何我們頻繁提到快取技術？最直接的原因是，目前磁碟IO和網路IO相對於記憶體IO的成百上千倍的效能劣勢。
做個簡單計算，如果我們需要某個資料，該資料從資料庫磁碟讀出來需要0.1s，從交換機傳過來需要0.05s，那麼每個請求完成最少0.15s（當然，事實上磁碟和網路IO也沒有這麼慢，這裡只是舉例），該資料庫伺服器每秒只能響應67個請求；而如果該資料存在於本機記憶體裡，讀出來只需要10us，那麼每秒鐘能夠響應100，000個請求。

通過將高頻使用的資料存在離cpu更近的位置，以減少資料傳輸時間，從而提高處理效率，這就是快取的意義。

2.在哪裡用快取？

一切地方。例如：

• 我們從硬碟讀資料的時候，其實作業系統還額外把附近的資料都讀到了記憶體裡
• 例如，CPU在從記憶體裡讀資料的時候，也額外讀了許多資料到各級cache裡
• 各個輸入輸出之間用buffer儲存一批資料統一發送和接受，而不是一個byte一個byte的處理

上面這是系統層面，在軟體系統設計層面，很多地方也用了快取：

• 瀏覽器會快取頁面的元素，這樣在重複訪問網頁時，就避開了要從網際網路上下載資料（例如大圖片）
• web服務會把靜態的東西提前部署在CDN上，這也是一種快取
• 資料庫會快取查詢，所以同一條查詢第二次就是要比第一次快
• 記憶體資料庫（如redis）選擇把大量資料存在記憶體而非硬盤裡，這可以看作是一個大型快取，只是把整個資料庫快取了起來
• 應用程式把最近幾次計算的結果放在本地記憶體裡，如果下次到來的請求還是原請求，就跳過計算直接返回結果

3.本次事故分析

回到本文開始的問題上，該系統是怎麼設計的呢？底層是資料庫，中間放了一層redis，前面的業務系統所需的資料都直接從redis裡取，然後計算出結果返回給app；資料庫和redis的同步另外有程式保證，避免redis的穿透，防止了程式裡出現大量請求從redis裡找不到，於是又一窩蜂的去查資料庫，直接壓垮資料庫的情況。從這個角度講，其實這一步是做的還可以的。

但是這個系統有兩個問題：
1.業務系統需要的資料雖然都在redis裡，但是是分開存放的。什麼意思呢，比如我前臺發起一個請求，後臺先去redis裡取一下標題，然後再取一下作者，然後再取一下內容，再取一下評論，再取一下轉發數等等……結果前臺一次請求，後臺要請求redis十幾次。高併發的時候，壓力一下被放大十幾倍，redis響應、網路響應必然會變慢。
2.其實做業務的那波人也意識到了這個情況可能發生，所以做了熔斷機制，另起了一個快取池，裡面放了一些備用資料，如果主業務超時，直接從快取池裡取資料返回。但是他們設計的時候沒想周全，這個備選池的資料過期時間設計的太長了，裡面居然還有三天前更新進去的資料，最終導致了一大波使用者刷出來三天前的野外生態小視訊……

說到這，不知道讀者有沒有意識到他們最致命的一個問題：這個業務系統完全沒有考慮本地快取（也就是在業務伺服器記憶體裡做快取）。比如像我們這種app，一旦大量使用者同一時間湧進來，必定都是奔著少數幾個內容去的，這種特別集中的高頻次極少量資料訪問，又不需要對每個使用者做特化的，簡直就是在臉上寫上“請快取我”。
這時候，如果能在業務端做一層本地快取，直接把算好的資料本地存一份，那麼就會極大減少網路和redis的壓力，不至於當場觸發熔斷了。

4.淺談快取的那些坑

快取很有用，但是快取用不好也會埋很多坑：

快取穿透

快取穿透是說收到了一個請求，但是該請求快取裡沒有，只能去資料庫裡查詢，然後放進快取。這裡面有兩個風險，一個是同時有好多請求訪問同一個資料，然後業務系統把這些請求全發到了資料庫；第二個是有人惡意構造一個邏輯上不存在的資料，然後大量傳送這個請求，這樣每次請求都會被髮送到資料庫，可能導致資料掛掉。

怎麼應對這種情況呢？對於惡意訪問，一個思路是事先做校驗，對惡意資料直接過濾掉，不要發到資料庫層；第二個思路是快取空結果，就是對查詢不存在的資料仍然記錄一條該資料不存在在快取裡，這樣能有效的減少查詢資料庫的次數。

那麼非惡意訪問呢？這個要結合快取擊穿來講。

快取擊穿

上面提到的某個資料沒有，然後好多請求都被髮到資料庫其實可以歸為快取擊穿的範疇：對於熱點資料，當資料失效的一瞬間，所有請求都被下放到資料庫去請求更新快取，資料庫被壓垮。

怎麼防範這種問題呢？一個思路是全域性鎖，就是所有訪問某個資料的請求都共享一個鎖，獲得鎖的那個才有資格去訪問資料庫，其他執行緒必須等待。但是現在的業務都是分散式的，本地鎖沒法控制其他伺服器也等待，所以要用到全域性鎖，比如用redis的setnx實現全域性鎖。

另一個思路是對即將過期的資料主動重新整理，做法可以有很多，比如起一個執行緒輪詢資料，比如把所有資料劃分為不同的快取區間，定期分割槽間重新整理資料等等。這第二個思路又和我們接下來要講的快取雪崩有關係。

快取雪崩

快取雪崩是指比如我們給所有的資料設定了同樣的過期時間，然後在某一個歷史性時刻，整個快取的資料全部過期了，然後瞬間所有的請求都被打到了資料庫，資料庫就崩了。

解決思路要麼是分治，劃分更小的快取區間，按區間過期；要麼是給每個key的過期時間加個隨機值，避免同時過期，達到錯峰重新整理快取的目的。

快取重新整理

說到重新整理快取，其實也有坑的。比如我之前的一份工作裡，有一次大活動，正是如火如荼的時候，所有的廣告位突然都變空白了。後來追查原因，所有的廣告素材都在快取裡，然後起了個程式，專門負責重新整理快取，每次把當前的素材全量重新整理。

壞就壞在這個全量上。因為大活動的時候流量極大，廣告更新壓力也很大，把負責提供更新素材的程式壓崩了。重新整理快取的程式在請求時，收到了一個返回結果Null。接下來就喜聞樂見了，重新整理程式根據這個null，清空了整個快取，所有廣告素材都失效了。