Redis緩存穿透問題及解決方案
上周在工作中遇到了一個問題場景,即查詢商品的配件信息時(商品:配件為1:N的關系),如若商品並未配置配件信息,則查數據庫為空,且不會加入緩存,這就會導致,下次在查詢同樣商品的配件時,由於緩存未命中,則仍舊會查底層數據庫,所以緩存就一直未起到應有的作用,當並發流量大時,會很容易把DB打垮。
緩存穿透問題
緩存穿透是指查詢一個根本不存在的數據,緩存層和存儲層都不會命中,通常出於容錯的考慮,如果從存儲層查不到數據則不寫入緩存層。
一般對於未命中的數據我們是按照如下方式進行處理的:
1.緩存層不命中。
2.存儲層不命中,不將空結果寫回緩存。
3.返回空結果。
/** * 緩存穿透問題: * 在數據庫層沒有查到數據,未存入緩存, * 則下次查詢同樣的數據時,還會查庫。 * * @param id * @return */ private Object getObjectById(Integer id) { // 從緩存中獲取數據 Object cacheValue = cache.get(id); if (cacheValue != null) { return cacheValue; } // 從數據庫中獲取 Object storageValue = storage.get(id); // 如果這裏按照id查詢DB為空,那麽便會出現緩存穿透 if (storageValue != null) { cache.set(id, storageValue); } return storageValue; }
緩存穿透將導致不存在的數據每次請求都要到存儲層去查詢,失去了緩存保護後端存儲的意義。
緩存穿透問題可能會使後端存儲負載加大,由於很多後端存儲不具備高並發性,甚至可能造成後端存儲宕掉。
方案一:緩存空對象
/** * 緩存空對象: * 此種方式存在漏洞,不經過判斷就直接將Null對象存入到緩存中, * 如果惡意制造不存在的id那麽,緩存中的鍵值就會很多,惡意攻擊時,很可能會被打爆,所以需設置較短的過期時間。 * * @param id * @return */ public Object getObjectInclNullById(Integer id) { // 從緩存中獲取數據 Object cacheValue = cache.get(id); // 緩存為空 if (cacheValue != null) { // 從數據庫中獲取 Object storageValue = storage.get(key); // 緩存空對象 cache.set(key, storageValue); // 如果存儲數據為空,需要設置一個過期時間(300秒) if (storageValue == null) { // 必須設置過期時間,否則有被攻擊的風險 cache.expire(key, 60 * 5); } return storageValue; } return cacheValue; }
緩存空對象會有一個必須考慮的問題:
空值做了緩存,意味著緩存層中存了更多的鍵,需要更多的內存空間(如果是攻擊,問題更嚴重),比較有效的方法是針對這類數據設置一個較短的過期時間,讓其自動剔除。
方案二:布隆過濾器攔截
布隆過濾器介紹
概念:
布隆過濾器(英語:Bloom Filter)是1970年由布隆提出的。它實際上是一個很長的二進制向量和一系列隨機映射函數。布隆過濾器可以用於檢索一個元素是否在一個集合中。它的優點是空間效率和查詢時間都遠遠超過一般的算法,缺點是有一定的誤識別率和刪除困難。
如果想判斷一個元素是不是在一個集合裏,一般想到的是將集合中所有元素保存起來,然後通過比較確定。鏈表、樹、散列表(又叫哈希表,Hash table)等等數據結構都是這種思路。但是隨著集合中元素的增加,我們需要的存儲空間越來越大。同時檢索速度也越來越慢,上述三種結構的檢索時間復雜度分別為 O(n),O(log n),O(n/k)
布隆過濾器的原理是,當一個元素被加入集合時,通過K個散列函數將這個元素映射成一個位數組中的K個點,把它們置為1。檢索時,我們只要看看這些點是不是都是1就(大約)知道集合中有沒有它了:如果這些點有任何一個0,則被檢元素一定不在;如果都是1,則被檢元素很可能在。這就是布隆過濾器的基本思想。
示例:
google guava包下有對布隆過濾器的封裝,BloomFilter。
import com.google.common.hash.BloomFilter; import com.google.common.hash.Funnels; public class BloomFilterTest { // 初始化一個能夠容納10000個元素且容錯率為0.01布隆過濾器 private static final BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), 10000, 0.01); /** * 初始化布隆過濾器 */ private static void initLegalIdsBloomFilter() { // 初始化10000個合法Id並加入到過濾器中 for (int legalId = 0; legalId < 10000; legalId++) { bloomFilter.put(legalId); } } /** * id是否合法有效,即是否在過濾器中 * * @param id * @return */ public static boolean validateIdInBloomFilter(Integer id) { return bloomFilter.mightContain(id); } public static void main(String[] args) { // 初始化過濾器 initLegalIdsBloomFilter(); // 誤判個數 int errorNum=0; // 驗證從10000個非法id是否有效 for (int id = 10000; id < 20000; id++) { if (validateIdInBloomFilter(id)){ // 誤判數 errorNum++; } } System.out.println("judge error num is : " + errorNum); } }
布隆過濾器攔截
設置過期時間,讓其自動過期失效,這種在很多時候不是最佳的實踐方案。
我們可以提前將真實正確的商品Id,在添加完成之後便加入到過濾器當中,每次再進行查詢時,先確認要查詢的Id是否在過濾器當中,如果不在,則說明Id為非法Id,則不需要進行後續的查詢步驟了。
/** * 防緩存穿透的:布隆過濾器 * * @param id * @return */ public Object getObjectByBloom(Integer id) { // 判斷是否為合法id if (!bloomFilter.mightContain(id)) { // 非法id,則不允許繼續查庫 return null; } else { // 從緩存中獲取數據 Object cacheValue = cache.get(id); // 緩存為空 if (cacheValue == null) { // 從數據庫中獲取 Object storageValue = storage.get(id); // 緩存空對象 cache.set(id, storageValue); } return cacheValue; } }
參考書籍:《Redis開發與運維》
Redis緩存穿透問題及解決方案