通過例項解析布隆過濾器工作原理及例項
布隆過濾器
布隆過濾器是一種資料結構,比較巧妙的概率型資料結構(probabilistic data structure),特點是高效地插入和查詢,可以用來告訴你 “一定不存在或者可能存在”。
相比於傳統的 List、Set、Map 等資料結構,它更高效、佔用空間更少,但是缺點是其返回的結果是概率性的,而不是確切的。
布隆過濾器的工作原理
假設一個長度為m的bit型別的陣列,即陣列中每個位置只佔一個bit,每個bit只有兩種狀態:0,1,所有bit的初始狀態都為0。
再假設一共有k個雜湊函式,這些函式的輸出域大於或者等於m,並且這些雜湊函式,彼此之間相互獨立,每個雜湊函式計算出來的結果是獨立的,可能相同也可能不相同,對每一個計算出來的結果都對m取餘(%m),然後再將陣列下標位置置為1。
我們這裡假設m為13,k為3的布隆過濾器,來看看布隆過濾器的工作原理:
當我們要對映一個值到布隆過濾器時,首先計算三個雜湊函式的值,然後對13取餘,對映到對應位中,圖中對映到2,6,10,這樣我們就完成了一個值的對映。
那麼怎麼判斷一個值是否存在,當一個值輸入時,通過三個雜湊函式,然後取餘,我們就可以得到對應的三個位置,我們只需要判斷這三個位置是否都為1,如果都為1,則該值儲存,反之不存在。
但是有一個特殊情況,前面說了不同的雜湊函式可能計算可能相同也可能不相同,而且不同的雜湊函式對不同的值計算出來的值可能一樣,這就造成一個結果,一個值通過雜湊和取餘得到的位置,早就被其它值給置1了,當我們儲存的值過多,而這個bit陣列過小,都會造成這種情況更多的發生,一個值明明不存在,而它的所有位置早就被其它不同值置1,造成了誤判,這裡就對布隆過濾器提出了一個指標:失誤率p。
在同樣資料規模下,不同大小的bit陣列及不同數量k的雜湊函式對誤判率的結果:
如何選取最合適的m(bit陣列的大小)及k(雜湊函式的數量),在已知n(需要對映的值得數量)及失誤率p的情況下:
m的選取:
k的選取:
給個例子:假設n=100億,p=0.01%
通過公式計算出來m=19.19n,向上取整位20n,即2000億個bit,也就是25gb。
通過公式計算出來k=14。
計算真實失誤率:
根據公式計算出來的真實失誤率位0.006%。
c語言實現
#include <stdio.h> #define Size 100 #define BitSIZE Size * 4 * 8 //c語言中一個整型資料型別4個位元組 int bit[Size]={0}; int SDBMHash(char *str) { unsigned int hash = 0; while (*str) { // equivalent to: hash = 65599*hash + (*str++); hash = (*str++) + (hash << 6) + (hash << 16) - hash; } return (hash & 0x7FFFFFFF); } int RSHash(char *str) { unsigned int b = 378551; unsigned int a = 63689; unsigned int hash = 0; while (*str) { hash = hash * a + (*str++); a *= b; } return (hash & 0x7FFFFFFF); } int JSHash(char *str) { unsigned int hash = 1315423911; while (*str) { hash ^= ((hash << 5) + (*str++) + (hash >> 2)); } return (hash & 0x7FFFFFFF); } void Insert(int hash){ //int value = hash%BitSIZE; ([0-3200]範圍的值) //int listindex = value / 32; (listindex為陣列下標) //int bitindex = value % 32; (某位) int value = hash%BitSIZE; int listindex = value / 32; int bitindex = value % 32; int temp = bit[listindex]; bit[listindex] = bit[listindex] & (1 << bitindex); bit[listindex] = bit[listindex] | temp; } int Serach(int hash){ int value = hash%BitSIZE; int listindex = value / 32; int bitindex = value % 32; if (bit[listindex] | (1 << bitindex)){ return 1; } return 0; } int main () { char str1[] = "abc123"; //在布隆過濾器中插入某值 Insert(SDBMHash(str1)); Insert(RSHash(str1)); Insert(JSHash(str1)); //在布隆過濾器中判斷某值是否存在 int i = 0; i = i+Serach(SDBMHash(str1)); i = i+Serach(RSHash(str1)); i = i+Serach(JSHash(str1)); if(i == 3){ printf("字串:%s存在\n",str1); } return 0; }
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。