1. 程式人生 > >hash學習–雜湊的原理和代價

hash學習–雜湊的原理和代價

轉自http://digdeeply.org/archives/10141480.html DigDeeply's Blog | 個人部落格 | 技術部落格

 

雜湊表和雜湊函式是大學資料結構中的課程,實際開發中我們經常用到Hashtable這種結構,當遇到鍵-值對儲存,採用Hashtable比ArrayList查詢的效能高。為什麼呢?我們在享受高效能的同時,需要付出什麼代價(這幾天看紅頂商人胡雪巖,經典臺詞:在你享受這之前,必須受別人吃不了的苦,忍受別人受不了的屈辱),那麼使用Hashtable是否就是一樁無本萬利的買賣呢?就此疑問,做以下分析,希望能拋磚引玉。

1)hash它為什麼對於鍵-值查詢效能高

學過資料結構的,都應該曉得,線性表和樹中,記錄在結構中的相對位置是隨機的,記錄和關鍵字之間不存在明確的關係,因此在查詢記錄的時候,需要進行一系列 的關鍵字比較,這種查詢方式建立在比較的基礎之上,在.net中(Array,ArrayList,List)這些集合結構採用了上面的儲存方式。 比如,現在我們有一個班同學的資料,包括姓名,性別,年齡,學號等。假如資料有

姓名 性別 年齡 學號
張三 15 1
李四 14 2
王五 14 3

假如,我們按照姓名來查詢,假設查詢函式FindByName(string name); 1)查詢“張三” 只需在第一行匹配一次。 2)查詢”王五” 在第一行匹配,失敗, 在第二行匹配,失敗, 在第三行匹配,成功 上面兩種情況,分別分析了最好的情況,和最壞的情況,那麼平均查詢次數應該為 (1+3)/2=2次,即平均查詢次數為(記錄總數+1)的1/2。 儘管有一些優化的演算法,可以使查詢排序效率增高,但是複雜度會保持在log2n的範圍之內。 如何更更快的進行查詢呢?我們所期望的效果是一下子就定位到要找記錄的位置之上,這時候時間複雜度為1,查詢最快。如果我們事先為每條記錄編一個序號,然 後讓他們按號入位,我們又知道按照什麼規則對這些記錄進行編號的話,如果我們再次查詢某個記錄的時候,只需要先通過規則計算出該記錄的編號,然後根據編 號,在記錄的線性佇列中,就可以輕易的找到記錄了 。 注意,上述的描述包含了兩個概念,一個是用於對學生進行編號的規則,在資料結構中,稱之為雜湊函式,另外一個是按照規則為學生排列的順序結構,稱之為雜湊表。 仍以上面的學生為例,假設學號就是規則,老師手上有一個規則表,在排座位的時候也按照這個規則來排序,查詢李四,首先該教師會根據規則判斷出,李四的編號為2,就是在座位中的2號位置,直接走過去,“李四,就是在這”.

hash學習--雜湊的原理和代價

hash學習--雜湊的原理和代價

從上面的圖中,可以看出雜湊表可以描述為兩個筒子,一個筒子用來裝記錄的位置編號,另外一個筒子用來裝記錄,另外存在一套規則,用來表述記錄與編號之間的聯絡。這個規則通常是如何制定的呢? a)直接定址法: 我在前一篇文章對GetHashCode()效能比較的問題中談到,對於整形的資料GetHashCode()函式返回的就是整形   本身,其實就是基於直接定址的方法,比如有一組0-100的資料,用來表示人的年齡 那麼,採用直接定址的方法構成的雜湊表為:

0 1 2 3 4 5
0歲 1歲 2歲 3歲 4歲 5歲

….. 這樣的一種定址方式,簡單方便,適用於元資料能夠用數字表述或者原資料具有鮮明順序關係的情形。 b)數字分析法: 有這樣一組資料,用於表述一些人的出生日期

75 10
75 12 10
75 02 14

分析一下,年和月的第一位數字基本相同,造成衝突的機率非常大,而後面三位差別比較大,所以採用後三位 c)平方取中法 取關鍵字平方後的中間幾位作為雜湊地址 d) 摺疊法: 將關鍵字分割成位數相同的幾部分,最後一部分位數可以不相同,然後去這幾部分的疊加和(取出進位)作為雜湊地址,比如有這樣的資料20-1445-4547-3 可以 5473 +       4454 +         201 =     10128 取出進位1,取0128為雜湊地址 e)取餘法 取關鍵字被某個不大於雜湊表表長m的數p除後所得餘數為雜湊地址。H(key)=key MOD p (p<=m) f) 隨機數法 選擇一個隨機函式,取關鍵字的隨機函式值為它的雜湊地址,即H(key)=random(key) ,其中random為隨機函式。通常用於關鍵字長度不等時採用此法。

總之,雜湊函式的規則是:通過某種轉換關係,使關鍵字適度的分散到指定大小的的順序結構中。越分散,則以後查詢的時間複雜度越小,空間複雜度越高。 2)使用hash,我們付出了什麼? hash是一種典型以空間換時間的演算法,比如原來一個長度為100的陣列,對其查詢,只需要遍歷且匹配相應記錄即可,從空間複雜度上來看,假如陣列儲存的 是byte型別資料,那麼該陣列佔用100byte空間。現在我們採用hash演算法,我們前面說的hash必須有一個規則,約束鍵與儲存位置的關係,那麼 就需要一個固定長度的hash表,此時,仍然是100byte的陣列,假設我們需要的100byte用來記錄鍵與位置的關係,那麼總的空間為 200byte,而且用於記錄規則的表大小會根據規則,大小可能是不定的,比如在lzw演算法中,如果一個很長的用於記錄畫素的byte陣列,用來記錄位置 與鍵關係的表空間,演算法推薦為一個12bit能表述的整數大小,那麼足夠長的畫素陣列,如何分散到這樣定長的表中呢,lzw演算法採用的是可變長編碼,具體 會在深入介紹lzw演算法的時候介紹。 注:hash表最突出的問題在於衝突,就是兩個鍵值經過雜湊函式計算出來的索引位置很可能相同,這個問題,下篇文章會令作闡述。 注:之所以會簡單得介紹了hash,是為了更好的學習lzw演算法,學習lzw演算法是為了更好的研究gif檔案結構,最後,我將詳細的闡述一下gif檔案是如何構成的,如何高效操作此種類型檔案。