1. 程式人生 > >HashMap 中的容量與擴容實現,細緻入微,值的一品!

HashMap 中的容量與擴容實現,細緻入微,值的一品!

前言

  開心一刻  

    巴閉,你的腳怎麼會有味道,我要聞聞看是不是好吃的,嗯~~爸比你的腳臭死啦!! ……

高手過招,招招致命

  JDK1.8 中 HashMap 的底層實現,我相信大家都能說上來個 一二,底層資料結構 陣列 + 連結串列(或紅黑樹) ,原始碼如下

/**
 * 陣列
 */
transient Node<K,V>[] table;

/**
 * 連結串列結構
 */
static class Node<K,V> implements Map.Entry<K,V> {
    final int hash;
    final K key;
    V value;
    Node<K,V> next;

    Node(int hash, K key, V value, Node<K,V> next) {
        this.hash = hash;
        this.key = key;
        this.value = value;
        this.next = next;
    }

    public final K getKey()        { return key; }
    public final V getValue()      { return value; }
    public final String toString() { return key + "=" + value; }

    public final int hashCode() {
        return Objects.hashCode(key) ^ Objects.hashCode(value);
    }

    public final V setValue(V newValue) {
        V oldValue = value;
        value = newValue;
        return oldValue;
    }

    public final boolean equals(Object o) {
        if (o == this)
            return true;
        if (o instanceof Map.Entry) {
            Map.Entry<?,?> e = (Map.Entry<?,?>)o;
            if (Objects.equals(key, e.getKey()) &&
                Objects.equals(value, e.getValue()))
                return true;
        }
        return false;
    }
}

/**
 * 紅黑樹結構
 */
static final class TreeNode<K,V> extends LinkedHashMap.Entry<K,V> {
    TreeNode<K,V> parent;  // red-black tree links
    TreeNode<K,V> left;
    TreeNode<K,V> right;
    TreeNode<K,V> prev;    // needed to unlink next upon deletion
    boolean red;
    ...
View Code

  但面試往往會問的比較細,例如下面的容量問題,我們能答上來幾個?

    1、table 的初始化時機是什麼時候,初始化的 table.length 是多少、閥值(threshold)是多少,實際能容下多少元素

    2、什麼時候觸發擴容,擴容之後的 table.length、閥值各是多少?

    3、table 的 length 為什麼是 2 的 n 次冪

    4、求索引的時候為什麼是:h&(length-1),而不是 h&length,更不是 h%length

    5、 Map map = new HashMap(1000); 當我們存入多少個元素時會觸發map的擴容; Map map1 = new HashMap(10000); 我們存入第 10001個元素時會觸發 map1 擴容嗎

    6、為什麼載入因子的預設值是 0.75,並且不推薦我們修改

  由於我們平時關注的少,一旦碰上這樣的 連擊 + 暴擊,我們往往不知所措、無從應對;接下來我們看看上面的 6 個問題,是不是真的難到無法理解 ,還是我們不夠細心、在自信的自我認為

鬥智鬥勇,見招拆招

  上述的問題,我們如何去找答案 ? 方式有很多種,用的最多的,我想應該是上網查資料、看別人的部落格,但我認為最有效、準確的方式是讀原始碼

  問題 1:table 的初始化

    HashMap 的構造方法有如下 4 種

/**
 * 構造方法 1
 *
 * 通過 指定的 initialCapacity 和 loadFactor 例項化一個空的 HashMap 物件
 */
public HashMap(int initialCapacity, float loadFactor) {
    if (initialCapacity < 0)
        throw new IllegalArgumentException("Illegal initial capacity: " +
                                           initialCapacity);
    if (initialCapacity > MAXIMUM_CAPACITY)
        initialCapacity = MAXIMUM_CAPACITY;
    if (loadFactor <= 0 || Float.isNaN(loadFactor))
        throw new IllegalArgumentException("Illegal load factor: " +
                                           loadFactor);
    this.loadFactor = loadFactor;
    this.threshold = tableSizeFor(initialCapacity);
}

/**
 * 構造方法 2
 *
 * 通過指定的 initialCapacity 和 預設的 loadFactor(0.75) 例項化一個空的 HashMap 物件
 */
public HashMap(int initialCapacity) {
    this(initialCapacity, DEFAULT_LOAD_FACTOR);
}

/**
 * 構造方法 3
 *
 * 通過預設的 initialCapacity 和 預設的 loadFactor(0.75) 例項化一個空的 HashMap 物件
 */
public HashMap() {
    this.loadFactor = DEFAULT_LOAD_FACTOR; // all other fields defaulted
}

/**
 *
 * 構造方法 4
 * 通過指定的 Map 物件例項化一個 HashMap 物件
 */
public HashMap(Map<? extends K, ? extends V> m) {
    this.loadFactor = DEFAULT_LOAD_FACTOR;
    putMapEntries(m, false);
}
View Code

    構造方式 4 和 構造方式 1 實際應用的不多,構造方式 2 直接呼叫的 1(底層實現完全一致),構造方式 2 和 構造方式 3 比較常用,而最常用的是構造方式 3;此時我們以構造方式 3 為前提來分析,而構造方式 2 我們則在問題 5 中來分析

     使用方式 1 例項化 HashMap 的時候,table 並未進行初始化,那 table 是何時進行初始化的了 ? 平時我們是如何使用 HashMap 的,先例項化、然後 put、然後進行其他操作,如下

Map<String,Object> map = new HashMap();
map.put("name", "張三");
map.put("age", 21);

// 後續操作
...

    既然例項化的時候未進行 table 的初始化,那是不是在 put 的時候初始化的了,我們來確認下

      resize() 初始化 table 或 對 table 進行雙倍擴容,原始碼如下(注意看註釋)

/**
 * Initializes or doubles table size.  If null, allocates in
 * accord with initial capacity target held in field threshold.
 * Otherwise, because we are using power-of-two expansion, the
 * elements from each bin must either stay at same index, or move
 * with a power of two offset in the new table.
 *
 * @return the table
 */
final Node<K,V>[] resize() {
    Node<K,V>[] oldTab = table;                    // 第一次 put 的時候,table = null
    int oldCap = (oldTab == null) ? 0 : oldTab.length; // oldCap = 0
    int oldThr = threshold;                        // threshold=0, oldThr = 0
    int newCap, newThr = 0;
    if (oldCap > 0) {    // 條件不滿足,往下走
        if (oldCap >= MAXIMUM_CAPACITY) {
            threshold = Integer.MAX_VALUE;
            return oldTab;
        }
        else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY &&
                 oldCap >= DEFAULT_INITIAL_CAPACITY)
            newThr = oldThr << 1; // double threshold
    }
    else if (oldThr > 0) // initial capacity was placed in threshold
        newCap = oldThr;
    else {               // zero initial threshold signifies using defaults 走到這裡,進行預設初始化
        newCap = DEFAULT_INITIAL_CAPACITY;    // DEFAULT_INITIAL_CAPACITY = 1 << 4 = 16, newCap = 16;
        newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);    // newThr = 0.75 * 16 = 12;
    }
    if (newThr == 0) {    // 條件不滿足
        float ft = (float)newCap * loadFactor;
        newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ?
                  (int)ft : Integer.MAX_VALUE);
    }
    threshold = newThr;        // threshold = 12; 重置閥值為12
    @SuppressWarnings({"rawtypes","unchecked"})
        Node<K,V>[] newTab = (Node<K,V>[])new Node[newCap];     // 初始化 newTab, length = 16;
    table = newTab;            // table 初始化完成, length = 16;
    if (oldTab != null) {    // 此時條件不滿足,後續擴容的時候,走此if分支 將陣列元素複製到新陣列
        for (int j = 0; j < oldCap; ++j) {
            Node<K,V> e;
            if ((e = oldTab[j]) != null) {
                oldTab[j] = null;
                if (e.next == null)
                    newTab[e.hash & (newCap - 1)] = e;
                else if (e instanceof TreeNode)
                    ((TreeNode<K,V>)e).split(this, newTab, j, oldCap);
                else { // preserve order
                    Node<K,V> loHead = null, loTail = null;
                    Node<K,V> hiHead = null, hiTail = null;
                    Node<K,V> next;
                    do {
                        next = e.next;
                        if ((e.hash & oldCap) == 0) {
                            if (loTail == null)
                                loHead = e;
                            else
                                loTail.next = e;
                            loTail = e;
                        }
                        else {
                            if (hiTail == null)
                                hiHead = e;
                            else
                                hiTail.next = e;
                            hiTail = e;
                        }
                    } while ((e = next) != null);
                    if (loTail != null) {
                        loTail.next = null;
                        newTab[j] = loHead;
                    }
                    if (hiTail != null) {
                        hiTail.next = null;
                        newTab[j + oldCap] = hiHead;
                    }
                }
            }
        }
    }
    return newTab;    // 新陣列
}
View Code

     自此,問題 1 的答案就明瞭了

table 的初始化時機是什麼時候
    一般情況下,在第一次 put 的時候,呼叫 resize 方法進行 table 的初始化
    
初始化的 table.length 是多少、閥值(threshold)是多少,實際能容下多少元素
    預設情況下,table.length = 16; 指定了 initialCapacity 的情況放到問題 5 中分析
    預設情況下,threshold = 12; 指定了 initialCapacity 的情況放到問題 5 中分析
    預設情況下,能存放 12 個元素,當存放第 13 個元素後進行擴容

  問題 2 :table 的擴容

     putVal 原始碼如下

/**
 * Implements Map.put and related methods
 *
 * @param hash hash for key
 * @param key the key
 * @param value the value to put
 * @param onlyIfAbsent if true, don't change existing value
 * @param evict if false, the table is in creation mode.
 * @return previous value, or null if none
 */
final V putVal(int hash, K key, V value, boolean onlyIfAbsent,
               boolean evict) {
    Node<K,V>[] tab; Node<K,V> p; int n, i;
    if ((tab = table) == null || (n = tab.length) == 0)
        n = (tab = resize()).length;
    if ((p = tab[i = (n - 1) & hash]) == null)
        tab[i] = newNode(hash, key, value, null);
    else {
        Node<K,V> e; K k;
        if (p.hash == hash &&
            ((k = p.key) == key || (key != null && key.equals(k))))
            e = p;
        else if (p instanceof TreeNode)
            e = ((TreeNode<K,V>)p).putTreeVal(this, tab, hash, key, value);
        else {
            for (int binCount = 0; ; ++binCount) {
                if ((e = p.next) == null) {
                    p.next = newNode(hash, key, value, null);
                    if (binCount >= TREEIFY_THRESHOLD - 1) // -1 for 1st
                        treeifyBin(tab, hash);
                    break;
                }
                if (e.hash == hash &&
                    ((k = e.key) == key || (key != null && key.equals(k))))
                    break;
                p = e;
            }
        }
        if (e != null) { // existing mapping for key
            V oldValue = e.value;
            if (!onlyIfAbsent || oldValue == null)
                e.value = value;
            afterNodeAccess(e);
            return oldValue;
        }
    }
    ++modCount;
    if (++size > threshold)             // 當size(已存放元素個數) > thrshold(閥值),進行擴容
        resize();
    afterNodeInsertion(evict);
    return null;
}
View Code

    還是呼叫 resize() 進行擴容,但與初始化時不同(注意看註釋)

/**
 * Initializes or doubles table size.  If null, allocates in
 * accord with initial capacity target held in field threshold.
 * Otherwise, because we are using power-of-two expansion, the
 * elements from each bin must either stay at same index, or move
 * with a power of two offset in the new table.
 *
 * @return the table
 */
final Node<K,V>[] resize() {
    Node<K,V>[] oldTab = table;                    // 此時的 table != null,oldTab 指向舊的 table
    int oldCap = (oldTab == null) ? 0 : oldTab.length; // oldCap = table.length; 第一次擴容時是 16
    int oldThr = threshold;                        // threshold=12, oldThr = 12;
    int newCap, newThr = 0;
    if (oldCap > 0) {    // 條件滿足,走此分支
        if (oldCap >= MAXIMUM_CAPACITY) {
            threshold = Integer.MAX_VALUE;
            return oldTab;
        }
        else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY &&    // oldCap左移一位; newCap = 16 << 1 = 32;
                 oldCap >= DEFAULT_INITIAL_CAPACITY)
            newThr = oldThr << 1; // double threshold            // newThr = 12 << 1 = 24;
    }
    else if (oldThr > 0) // initial capacity was placed in threshold
        newCap = oldThr;
    else {               // zero initial threshold signifies using defaults
        newCap = DEFAULT_INITIAL_CAPACITY;    // DEFAULT_INITIAL_CAPACITY = 1 << 4 = 16, newCap = 16;
        newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);
    }
    if (newThr == 0) {    // 條件不滿足
        float ft = (float)newCap * loadFactor;
        newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ?
                  (int)ft : Integer.MAX_VALUE);
    }
    threshold = newThr;        // threshold = newThr = 24; 重置閥值為 24
    @SuppressWarnings({"rawtypes","unchecked"})
        Node<K,V>[] newTab = (Node<K,V>[])new Node[newCap];     // 初始化 newTab, length = 32;
    table = newTab;            // table 指向 newTab, length = 32;
    if (oldTab != null) {    // 擴容後,將 oldTab(舊table) 中的元素移到 newTab(新table)中
        for (int j = 0; j < oldCap; ++j) {
            Node<K,V> e;
            if ((e = oldTab[j]) != null) {
                oldTab[j] = null;
                if (e.next == null)
                    newTab[e.hash & (newCap - 1)] = e;        // 
                else if (e instanceof TreeNode)
                    ((TreeNode<K,V>)e).split(this, newTab, j, oldCap);
                else { // preserve order
                    Node<K,V> loHead = null, loTail = null;
                    Node<K,V> hiHead = null, hiTail = null;
                    Node<K,V> next;
                    do {
                        next = e.next;
                        if ((e.hash & oldCap) == 0) {
                            if (loTail == null)
                                loHead = e;
                            else
                                loTail.next = e;
                            loTail = e;
                        }
                        else {
                            if (hiTail == null)
                                hiHead = e;
                            else
                                hiTail.next = e;
                            hiTail = e;
                        }
                    } while ((e = next) != null);
                    if (loTail != null) {
                        loTail.next = null;
                        newTab[j] = loHead;
                    }
                    if (hiTail != null) {
                        hiTail.next = null;
                        newTab[j + oldCap] = hiHead;
                    }
                }
            }
        }
    }
    return newTab;
}
View Code

    自此,問題 2 的答案也就清晰了

什麼時候觸發擴容,擴容之後的 table.length、閥值各是多少
    當 size > threshold 的時候進行擴容
    擴容之後的 table.length = 舊 table.length * 2,
    擴容之後的 threshold = 舊 threshold * 2

  問題 3、4 :2 的 n 次冪

    table 是一個數組,那麼如何最快的將元素 e 放入陣列 ? 當然是找到元素 e 在 table 中對應的位置 index ,然後 table[index] = e; 就好了;如何找到 e 在 table 中的位置了 ? 我們知道只能通過陣列下標(索引)運算元組,而陣列的下標型別又是  int ,如果 e 是 int 型別,那好說,就直接用 e 來做陣列下標(若 e > table.length,則可以 e % table.length 來獲取下標),可  key - value 中的 key 型別不一定,所以我們需要一種統一的方式將 key 轉換成  int ,最好是一個  key 對應一個唯一的 int (目前還不可能, int有範圍限制,對轉換方法要求也極高),所以引入了 hash 方法

static final int hash(Object key) {
    int h;
    return (key == null) ? 0 : (h = key.hashCode()) ^ (h >>> 16);  // 這裡的處理,有興趣的可以琢磨下;能夠減少碰撞
}

    實現 key 到 int 的轉換(關於 hash,本文不展開討論)。拿到了 key 對應的 int h 之後,我們最容易想到的對 value 的  put 和 get 操作也許如下

// put
table[h % table.length] = value;

// get
e = table[h % table.length];

    直接取模是我們最容易想到的獲取下標的方法,但是最高效的方法嗎 ?

    我們知道計算機中的四則運算最終都會轉換成二進位制的位運算

    我們可以發現,只有 & 數是1時,& 運算的結果與被 & 數一致

1&1=1;
0&1=0;
1&0=0;
0&0=0;

    這同樣適用於多位運算元

1010&1111=1010;      => 10&15=10;
1011&1111=1011;      => 11&15=11;
01010&10000=00000;   => 10&16=0;
01011&10000=00000;   => 11&16=0;

    我們是不是又有所發現: 10 & 16 與 11 & 16 得到的結果一樣,也就是衝突(碰撞)了,那麼 10 和 11 對應的 value 會在同一個連結串列中,而 table 的有些位置則永遠不會有元素,這就導致 table 的空間未得到充分利用,同時還降低了 put 和 get 的效率(對比陣列和連結串列);由於是 2 個數進行 & 運算,所以結果由這兩個數決定,如果我們把這兩個數都做下限制,那得到的結果是不是可控制在我們想要的範圍內了 ?  我們需要利用好 & 運算的特點,當右邊的數的低位二進位制是連續的 1 ,且左邊是一個均勻的數(需要 hash 方法實現,儘量保證 key 的 h 唯一),那麼得到的結果就比較完美了。低位二進位制連續的 1,我們很容易想到 2^n - 1; 而關於左邊均勻的數,則通過 hash 方法來實現,這裡不做細究了。

    自此,2 的 n 次冪的相關問題就清楚了

table 的 length 為什麼是 2 的 n 次冪
    為了利用位運算 & 求 key 的下標

求索引的時候為什麼是:h&(length-1),而不是 h&length,更不是 h%length
    h%length 效率不如位運算快
    h&length 會導致 table 的空間得不到利用、降低 table 的操作效率

    給各位留個疑問:為什麼不直接用 2^n-1 作為 table.length ? 歡迎評論區留言

  問題 5:指定 initialCapacity

    當我們指定了 initialCapacity,HashMap的構造方法有些許不同,如下所示 

    呼叫 tableSizeFor 進行 threshold 的初始化

/**
 * Returns a power of two size for the given target capacity.
 * 返回 >= cap 最小的 2^n
 * cap = 10, 則返回 2^4 = 16;
 * cap = 5, 則返回 2^3 = 8;
 */
static final int tableSizeFor(int cap) {
    int n = cap - 1;
    n |= n >>> 1;
    n |= n >>> 2;
    n |= n >>> 4;
    n |= n >>> 8;
    n |= n >>> 16;
    return (n < 0) ? 1 : (n >= MAXIMUM_CAPACITY) ? MAXIMUM_CAPACITY : n + 1;
}
View Code

    雖然此處初始化的是 threshold,但後面初始化 table 的時候,會將其用於 table 的 length,同時會重置 threshold 為 table.length * loadFactor 

    自此,問題 5 也就清楚了

Map map = new HashMap(1000); 當我們存入多少個元素時會觸發map的擴容
    此時的 table.length = 2^10 = 1024; threshold = 1024 * 0.75 = 768; 所以存入第 769 個元素時進行擴容

Map map1 = new HashMap(10000); 我們存入第 10001個元素時會觸發 map1 擴容嗎
    此時的 table.length = 2^14 = 16384; threshold = 16384 * 0.75 = 12288; 所以存入第 10001 個元素時不會進行擴容

  問題6:載入因子

為什麼載入因子的預設值是 0.75,並且不推薦我們修改
    如果loadFactor太小,那麼map中的table需要不斷的擴容,擴容是個耗時的過程
    如果loadFactor太大,那麼map中table放滿了也不不會擴容,導致衝突越來越多,解決衝突而起的連結串列越來越長,效率越來越低
    而 0.75 這是一個折中的值,是一個比較理想的值

總結

  1、table.length = 2^n,是為了能利用位運算(&)來求 key 的下標,而 h&(length-1) 是為了充分利用 table 的空間,並減少 key 的碰撞

  2、載入因子太小, table 需要不斷的擴容,影響 put 效率;太大會導致碰撞越來越多,連結串列越來越長(轉紅黑樹),影響效率;0.75 是一個比較理想的中間值

  3、table.length = 2^n、hash 方法獲取 key 的 h、載入因子 0.75、陣列 + 連結串列(或紅黑樹),一環扣一環,保證了 key 在 table 中的均勻分配,充分利用了空間,也保證了操作效率

    環環相扣的,而不是心血來潮的隨意處理;缺了一環,其他的環就無意義了!

  4、網上有個 put 方法的流程圖畫的挺好,我就偷懶了

參考

   java提高篇(二三)-----HashMap
  【原創】HashMap複習精講
  面試官:"準備用HashMap存1w條資料,構造時傳10000還會觸發擴容嗎?"