一、資料傾斜發生的原理

• 原理：在進行shuffle的時候，必須將各個節點上相同的key拉取到某個節點上的一個task來進行處理，比如按照key進行聚合或join等操作。此時如果某個key對應的資料量特別大的話，就會發生資料傾斜。資料傾斜只會發生在shuffle過程中。常用的並且可能會觸發shuffle操作的運算元：distinct、groupByKey、reduceByKey、aggregateByKey、join、cogroup、repartition等。 
• 表現：Spark作業看起來會執行得非常緩慢，甚至可能因為某個task處理的資料量過大導致記憶體溢位。
• 定位
  ：

1、確定資料傾斜發生在第幾個stage中。

可以通過Spark Web UI來檢視當前執行到了第幾個stage。並深入看一下當前這個stage各個task分配的資料量及執行時間

2、根據stage劃分原理，推算出來發生傾斜的那個stage對應程式碼中的哪一部分。

3、分析一下那個執行了shuffle操作並且導致了資料傾斜的RDD/Hive表，檢視一下其中key的分佈情況。

二、資料傾斜解決方案

解決方案一：使用Hive ETL預處理資料

• 方案適用場景：導致資料傾斜的是Hive表。如果該Hive表中的資料本身很不均勻（比如某個key對應了100萬資料，其他key才對應了10條資料），而且業務場景需要頻繁使用Spark對Hive表執行某個分析操作，那麼比較適合使用這種技術方案。
• 方案實現思路：此時可以評估一下，是否可以通過Hive來進行資料預處理（即通過Hive ETL預先對資料按照key進行聚合，或者是預先和其他表進行join），然後在Spark作業中針對的資料來源就不是原來的Hive表了，而是預處理後的Hive表。此時由於資料已經預先進行過聚合或join操作了，那麼在Spark作業中也就不需要使用原先的shuffle類運算元執行這類操作了。
• 方案實現原理：這種方案從根源上解決了資料傾斜，因為徹底避免了在Spark中執行shuffle類運算元，那麼肯定就不會有資料傾斜的問題了。但是這裡也要提醒一下大家，這種方式屬於治標不治本。因為畢竟資料本身就存在分佈不均勻的問題，所以Hive ETL中進行group by或者join等shuffle操作時，還是會出現資料傾斜，導致Hive ETL的速度很慢。我們只是把資料傾斜的發生提前到了Hive ETL中，避免Spark程式發生資料傾斜而已。
• 方案優點：實現起來簡單便捷，效果還非常好，完全規避掉了資料傾斜，Spark作業的效能會大幅度提升。
• 方案缺點：治標不治本，Hive ETL中還是會發生資料傾斜。
• 方案實踐經驗：在一些Java系統與Spark結合使用的專案中，會出現Java程式碼頻繁呼叫Spark作業的場景，而且對Spark作業的執行效能要求很高，就比較適合使用這種方案。將資料傾斜提前到上游的Hive ETL，每天僅執行一次，只有那一次是比較慢的，而之後每次Java呼叫Spark作業時，執行速度都會很快，能夠提供更好的使用者體驗。
• 專案實踐經驗：在美團·點評的互動式使用者行為分析系統中使用了這種方案，該系統主要是允許使用者通過Java Web系統提交資料分析統計任務，後端通過Java提交Spark作業進行資料分析統計。要求Spark作業速度必須要快，儘量在10分鐘以內，否則速度太慢，使用者體驗會很差。所以我們將有些Spark作業的shuffle操作提前到了Hive ETL中，從而讓Spark直接使用預處理的Hive中間表，儘可能地減少Spark的shuffle操作，大幅度提升了效能，將部分作業的效能提升了6倍以上。

解決方案二：過濾少數導致傾斜的key

• 方案適用場景：如果發現導致傾斜的key就少數幾個，而且對計算本身的影響並不大的話，那麼很適合使用這種方案。比如99%的key就對應10條資料，但是隻有一個key對應了100萬資料，從而導致了資料傾斜。
• 方案實現思路：如果我們判斷那少數幾個資料量特別多的key，對作業的執行和計算結果不是特別重要的話，那麼幹脆就直接過濾掉那少數幾個key。比如，在Spark SQL中可以使用where子句過濾掉這些key或者在Spark Core中對RDD執行filter運算元過濾掉這些key。如果需要每次作業執行時，動態判定哪些key的資料量最多然後再進行過濾，那麼可以使用sample運算元對RDD進行取樣，然後計算出每個key的數量，取資料量最多的key過濾掉即可。
• 方案實現原理：將導致資料傾斜的key給過濾掉之後，這些key就不會參與計算了，自然不可能產生資料傾斜。
• 方案優點：實現簡單，而且效果也很好，可以完全規避掉資料傾斜。
• 方案缺點：適用場景不多，大多數情況下，導致傾斜的key還是很多的，並不是只有少數幾個。
• 方案實踐經驗：在專案中我們也採用過這種方案解決資料傾斜。有一次發現某一天Spark作業在執行的時候突然OOM了，追查之後發現，是Hive表中的某一個key在那天資料異常，導致資料量暴增。因此就採取每次執行前先進行取樣，計算出樣本中資料量最大的幾個key之後，直接在程式中將那些key給過濾掉。

解決方案三：提高shuffle操作的並行度

• 方案適用場景：如果我們必須要對資料傾斜迎難而上，那麼建議優先使用這種方案，因為這是處理資料傾斜最簡單的一種方案。
• 方案實現思路：在對RDD執行shuffle運算元時，給shuffle運算元傳入一個引數，比如reduceByKey(1000)，該引數就設定了這個shuffle運算元執行時shuffle read task的數量。對於Spark SQL中的shuffle類語句，比如group by、join等，需要設定一個引數，即spark.sql.shuffle.partitions，該引數代表了shuffle read task的並行度，該值預設是200，對於很多場景來說都有點過小。
• 方案實現原理：增加shuffle read task的數量，可以讓原本分配給一個task的多個key分配給多個task，從而讓每個task處理比原來更少的資料。舉例來說，如果原本有5個key，每個key對應10條資料，這5個key都是分配給一個task的，那麼這個task就要處理50條資料。而增加了shuffle read task以後，每個task就分配到一個key，即每個task就處理10條資料，那麼自然每個task的執行時間都會變短了。具體原理如下圖所示。
• 方案優點：實現起來比較簡單，可以有效緩解和減輕資料傾斜的影響。
• 方案缺點：只是緩解了資料傾斜而已，沒有徹底根除問題，根據實踐經驗來看，其效果有限。
• 方案實踐經驗：該方案通常無法徹底解決資料傾斜，因為如果出現一些極端情況，比如某個key對應的資料量有100萬，那麼無論你的task數量增加到多少，這個對應著100萬資料的key肯定還是會分配到一個task中去處理，因此註定還是會發生資料傾斜的。所以這種方案只能說是在發現數據傾斜時嘗試使用的第一種手段，嘗試去用最簡單的方法緩解資料傾斜而已，或者是和其他方案結合起來使用。

解決方案四：兩階段聚合（區域性聚合+全域性聚合）

• 方案適用場景：對RDD執行reduceByKey等聚合類shuffle運算元或者在Spark SQL中使用group by語句進行分組聚合時，比較適用這種方案。
• 方案實現思路：這個方案的核心實現思路就是進行兩階段聚合。第一次是區域性聚合，先給每個key都打上一個隨機數，比如10以內的隨機數，此時原先一樣的key就變成不一樣的了，比如(hello, 1) (hello, 1) (hello, 1) (hello, 1)，就會變成(1_hello, 1) (1_hello, 1) (2_hello, 1) (2_hello, 1)。接著對打上隨機數後的資料，執行reduceByKey等聚合操作，進行區域性聚合，那麼區域性聚合結果，就會變成了(1_hello, 2) (2_hello, 2)。然後將各個key的字首給去掉，就會變成(hello,2)(hello,2)，再次進行全域性聚合操作，就可以得到最終結果了，比如(hello, 4)。
• 方案實現原理：將原本相同的key通過附加隨機字首的方式，變成多個不同的key，就可以讓原本被一個task處理的資料分散到多個task上去做區域性聚合，進而解決單個task處理資料量過多的問題。接著去除掉隨機字首，再次進行全域性聚合，就可以得到最終的結果。
• 方案優點：對於聚合類的shuffle操作導致的資料傾斜，效果是非常不錯的。通常都可以解決掉資料傾斜，或者至少是大幅度緩解資料傾斜，將Spark作業的效能提升數倍以上。
• 方案缺點：僅僅適用於聚合類的shuffle操作，適用範圍相對較窄。如果是join類的shuffle操作，還得用其他的解決方案。

解決方案五：將reduce join轉為map join

• 方案適用場景：在對RDD使用join類操作，或者是在Spark SQL中使用join語句時，而且join操作中的一個RDD或表的資料量比較小（比如幾百M或者一兩G），比較適用此方案。
• 方案實現思路：不使用join運算元進行連線操作，而使用Broadcast變數與map類運算元實現join操作，進而完全規避掉shuffle類的操作，徹底避免資料傾斜的發生和出現。將較小RDD中的資料直接通過collect運算元拉取到Driver端的記憶體中來，然後對其建立一個Broadcast變數；接著對另外一個RDD執行map類運算元，在運算元函式內，從Broadcast變數中獲取較小RDD的全量資料，與當前RDD的每一條資料按照連線key進行比對，如果連線key相同的話，那麼就將兩個RDD的資料用你需要的方式連線起來。
• 方案實現原理：普通的join是會走shuffle過程的，而一旦shuffle，就相當於會將相同key的資料拉取到一個shuffle read task中再進行join，此時就是reduce join。但是如果一個RDD是比較小的，則可以採用廣播小RDD全量資料+map運算元來實現與join同樣的效果，也就是map join，此時就不會發生shuffle操作，也就不會發生資料傾斜。
• 方案優點：對join操作導致的資料傾斜，效果非常好，因為根本就不會發生shuffle，也就根本不會發生資料傾斜。
• 方案缺點：適用場景較少，因為這個方案只適用於一個大表和一個小表的情況。畢竟我們需要將小表進行廣播，此時會比較消耗記憶體資源，driver和每個Executor記憶體中都會駐留一份小RDD的全量資料。如果我們廣播出去的RDD資料比較大，比如10G以上，那麼就可能發生記憶體溢位了。因此並不適合兩個都是大表的情況。

解決方案六：取樣傾斜key並分拆join操作

• 方案適用場景：兩個RDD/Hive表進行join的時候，如果資料量都比較大，無法採用“解決方案五”，那麼此時可以看一下兩個RDD/Hive表中的key分佈情況。如果出現數據傾斜，是因為其中某一個RDD/Hive表中的少數幾個key的資料量過大，而另一個RDD/Hive表中的所有key都分佈比較均勻，那麼採用這個解決方案是比較合適的。
• 方案實現思路：
  • 對包含少數幾個資料量過大的key的那個RDD，通過sample運算元取樣出一份樣本來，然後統計一下每個key的數量，計算出來資料量最大的是哪幾個key。
  • 然後將這幾個key對應的資料從原來的RDD中拆分出來，形成一個單獨的RDD，並給每個key都打上n以內的隨機數作為字首，而不會導致傾斜的大部分key形成另外一個RDD。
  • 接著將需要join的另一個RDD，也過濾出來那幾個傾斜key對應的資料並形成一個單獨的RDD，將每條資料膨脹成n條資料，這n條資料都按順序附加一個0~n的字首，不會導致傾斜的大部分key也形成另外一個RDD。
  • 再將附加了隨機字首的獨立RDD與另一個膨脹n倍的獨立RDD進行join，此時就可以將原先相同的key打散成n份，分散到多個task中去進行join了。
  • 而另外兩個普通的RDD就照常join即可。
  • 最後將兩次join的結果使用union運算元合併起來即可，就是最終的join結果。
• 方案實現原理：對於join導致的資料傾斜，如果只是某幾個key導致了傾斜，可以將少數幾個key分拆成獨立RDD，並附加隨機字首打散成n份去進行join，此時這幾個key對應的資料就不會集中在少數幾個task上，而是分散到多個task進行join了。
• 方案優點：對於join導致的資料傾斜，如果只是某幾個key導致了傾斜，採用該方式可以用最有效的方式打散key進行join。而且只需要針對少數傾斜key對應的資料進行擴容n倍，不需要對全量資料進行擴容。避免了佔用過多記憶體。
• 方案缺點：如果導致傾斜的key特別多的話，比如成千上萬個key都導致資料傾斜，那麼這種方式也不適合。

解決方案七：使用隨機字首和擴容RDD進行join

• 方案適用場景：如果在進行join操作時，RDD中有大量的key導致資料傾斜，那麼進行分拆key也沒什麼意義，此時就只能使用最後一種方案來解決問題了。
• 方案實現思路：
  • 該方案的實現思路基本和“解決方案六”類似，首先檢視RDD/Hive表中的資料分佈情況，找到那個造成資料傾斜的RDD/Hive表，比如有多個key都對應了超過1萬條資料。
  • 然後將該RDD的每條資料都打上一個n以內的隨機字首。
  • 同時對另外一個正常的RDD進行擴容，將每條資料都擴容成n條資料，擴容出來的每條資料都依次打上一個0~n的字首。
  • 最後將兩個處理後的RDD進行join即可。
• 方案實現原理：將原先一樣的key通過附加隨機字首變成不一樣的key，然後就可以將這些處理後的“不同key”分散到多個task中去處理，而不是讓一個task處理大量的相同key。該方案與“解決方案六”的不同之處就在於，上一種方案是儘量只對少數傾斜key對應的資料進行特殊處理，由於處理過程需要擴容RDD，因此上一種方案擴容RDD後對記憶體的佔用並不大；而這一種方案是針對有大量傾斜key的情況，沒法將部分key拆分出來進行單獨處理，因此只能對整個RDD進行資料擴容，對記憶體資源要求很高。
• 方案優點：對join型別的資料傾斜基本都可以處理，而且效果也相對比較顯著，效能提升效果非常不錯。
• 方案缺點：該方案更多的是緩解資料傾斜，而不是徹底避免資料傾斜。而且需要對整個RDD進行擴容，對記憶體資源要求很高。
• 方案實踐經驗：曾經開發一個數據需求的時候，發現一個join導致了資料傾斜。優化之前，作業的執行時間大約是60分鐘左右；使用該方案優化之後，執行時間縮短到10分鐘左右，效能提升了6倍。

解決方案八：多種方案組合使用

在實踐中發現，很多情況下，如果只是處理較為簡單的資料傾斜場景，那麼使用上述方案中的某一種基本就可以解決。但是如果要處理一個較為複雜的資料傾斜場景，那麼可能需要將多種方案組合起來使用。比如說，我們針對出現了多個數據傾斜環節的Spark作業，可以先運用解決方案一和二，預處理一部分資料，並過濾一部分資料來緩解；其次可以對某些shuffle操作提升並行度，優化其效能；最後還可以針對不同的聚合或join操作，選擇一種方案來優化其效能。大家需要對這些方案的思路和原理都透徹理解之後，在實踐中根據各種不同的情況，靈活運用多種方案，來解決自己的資料傾斜問題。

三、shuffle 調優

ShuffleManager發展概述

在Spark的原始碼中，負責shuffle過程的執行、計算和處理的元件主要就是ShuffleManager，也即shuffle管理器。而隨著Spark的版本的發展，ShuffleManager也在不斷迭代，變得越來越先進。

在Spark 1.2以前，預設的shuffle計算引擎是HashShuffleManager。HashShuffleManager有著一個非常嚴重的弊端，就是會產生大量的中間磁碟檔案，進而由大量的磁碟IO操作影響了效能。

因此在Spark 1.2以後的版本中，預設的ShuffleManager改成了SortShuffleManager。SortShuffleManager相較於HashShuffleManager來說，有了一定的改進。主要就在於，每個Task在進行shuffle操作時，雖然也會產生較多的臨時磁碟檔案，但是最後會將所有的臨時檔案合併（merge）成一個磁碟檔案，因此每個Task就只有一個磁碟檔案。在下一個stage的shuffle read task拉取自己的資料時，只要根據索引讀取每個磁碟檔案中的部分資料即可。

HashShuffleManager執行原理

未經優化的HashShuffleManager

下圖說明了未經優化的HashShuffleManager的原理。這裡我們先明確一個假設前提：每個Executor只有1個CPU core，也就是說，無論這個Executor上分配多少個task執行緒，同一時間都只能執行一個task執行緒。

我們先從shuffle write開始說起。shuffle write階段，主要就是在一個stage結束計算之後，為了下一個stage可以執行shuffle類的運算元（比如reduceByKey），而將每個task處理的資料按key進行“分類”。所謂“分類”，就是對相同的key執行hash演算法，從而將相同key都寫入同一個磁碟檔案中，而每一個磁碟檔案都只屬於下游stage的一個task。在將資料寫入磁碟之前，會先將資料寫入記憶體緩衝中，當記憶體緩衝填滿之後，才會溢寫到磁碟檔案中去。

那麼每個執行shuffle write的task，要為下一個stage建立多少個磁碟檔案呢？很簡單，下一個stage的task有多少個，當前stage的每個task就要建立多少份磁碟檔案。比如下一個stage總共有100個task，那麼當前stage的每個task都要建立100份磁碟檔案。如果當前stage有50個task，總共有10個Executor，每個Executor執行5個Task，那麼每個Executor上總共就要建立500個磁碟檔案，所有Executor上會建立5000個磁碟檔案。由此可見，未經優化的shuffle write操作所產生的磁碟檔案的數量是極其驚人的。

接著我們來說說shuffle read。shuffle read，通常就是一個stage剛開始時要做的事情。此時該stage的每一個task就需要將上一個stage的計算結果中的所有相同key，從各個節點上通過網路都拉取到自己所在的節點上，然後進行key的聚合或連線等操作。由於shuffle write的過程中，task給下游stage的每個task都建立了一個磁碟檔案，因此shuffle read的過程中，每個task只要從上游stage的所有task所在節點上，拉取屬於自己的那一個磁碟檔案即可。

shuffle read的拉取過程是一邊拉取一邊進行聚合的。每個shuffle read task都會有一個自己的buffer緩衝，每次都只能拉取與buffer緩衝相同大小的資料，然後通過記憶體中的一個Map進行聚合等操作。聚合完一批資料後，再拉取下一批資料，並放到buffer緩衝中進行聚合操作。以此類推，直到最後將所有資料到拉取完，並得到最終的結果。

優化後的HashShuffleManager

這裡說的優化，是指我們可以設定一個引數，spark.shuffle.consolidateFiles。該引數預設值為false，將其設定為true即可開啟優化機制。通常來說，如果我們使用HashShuffleManager，那麼都建議開啟這個選項。

開啟consolidate機制之後，在shuffle write過程中，task就不是為下游stage的每個task建立一個磁碟檔案了。此時會出現shuffleFileGroup的概念，每個shuffleFileGroup會對應一批磁碟檔案，磁碟檔案的數量與下游stage的task數量是相同的。一個Executor上有多少個CPU core，就可以並行執行多少個task。而第一批並行執行的每個task都會建立一個shuffleFileGroup，並將資料寫入對應的磁碟檔案內。

當Executor的CPU core執行完一批task，接著執行下一批task時，下一批task就會複用之前已有的shuffleFileGroup，包括其中的磁碟檔案。也就是說，此時task會將資料寫入已有的磁碟檔案中，而不會寫入新的磁碟檔案中。因此，consolidate機制允許不同的task複用同一批磁碟檔案，這樣就可以有效將多個task的磁碟檔案進行一定程度上的合併，從而大幅度減少磁碟檔案的數量，進而提升shuffle write的效能。

假設第二個stage有100個task，第一個stage有50個task，總共還是有10個Executor，每個Executor執行5個task。那麼原本使用未經優化的HashShuffleManager時，每個Executor會產生500個磁碟檔案，所有Executor會產生5000個磁碟檔案的。但是此時經過優化之後，每個Executor建立的磁碟檔案的數量的計算公式為：CPU core的數量 * 下一個stage的task數量。也就是說，每個Executor此時只會建立100個磁碟檔案，所有Executor只會建立1000個磁碟檔案。

SortShuffleManager執行原理

SortShuffleManager的執行機制主要分成兩種，一種是普通執行機制，另一種是bypass執行機制。當shuffle read task的數量小於等於spark.shuffle.sort.bypassMergeThreshold引數的值時（預設為200），就會啟用bypass機制。

普通執行機制

在該模式下，資料會先寫入一個記憶體資料結構中，此時根據不同的shuffle運算元，可能選用不同的資料結構。如果是reduceByKey這種聚合類的shuffle運算元，那麼會選用Map資料結構，一邊通過Map進行聚合，一邊寫入記憶體；如果是join這種普通的shuffle運算元，那麼會選用Array資料結構，直接寫入記憶體。接著，每寫一條資料進入記憶體資料結構之後，就會判斷一下，是否達到了某個臨界閾值。如果達到臨界閾值的話，那麼就會嘗試將記憶體資料結構中的資料溢寫到磁碟，然後清空記憶體資料結構。

在溢寫到磁碟檔案之前，會先根據key對記憶體資料結構中已有的資料進行排序。排序過後，會分批將資料寫入磁碟檔案。預設的batch數量是10000條，也就是說，排序好的資料，會以每批1萬條資料的形式分批寫入磁碟檔案。寫入磁碟檔案是通過Java的BufferedOutputStream實現的。BufferedOutputStream是Java的緩衝輸出流，首先會將資料緩衝在記憶體中，當記憶體緩衝滿溢之後再一次寫入磁碟檔案中，這樣可以減少磁碟IO次數，提升效能。

一個task將所有資料寫入記憶體資料結構的過程中，會發生多次磁碟溢寫操作，也就會產生多個臨時檔案。最後會將之前所有的臨時磁碟檔案都進行合併，這就是merge過程，此時會將之前所有臨時磁碟檔案中的資料讀取出來，然後依次寫入最終的磁碟檔案之中。此外，由於一個task就只對應一個磁碟檔案，也就意味著該task為下游stage的task準備的資料都在這一個檔案中，因此還會單獨寫一份索引檔案，其中標識了下游各個task的資料在檔案中的start offset與end offset。

SortShuffleManager由於有一個磁碟檔案merge的過程，因此大大減少了檔案數量。比如第一個stage有50個task，總共有10個Executor，每個Executor執行5個task，而第二個stage有100個task。由於每個task最終只有一個磁碟檔案，因此此時每個Executor上只有5個磁碟檔案，所有Executor只有50個磁碟檔案。

bypass執行機制

bypass執行機制的觸發條件如下：

• shuffle map task數量小於spark.shuffle.sort.bypassMergeThreshold引數的值。
• 不是聚合類的shuffle運算元（比如reduceByKey）。

此時task會為每個下游task都建立一個臨時磁碟檔案，並將資料按key進行hash然後根據key的hash值，將key寫入對應的磁碟檔案之中。當然，寫入磁碟檔案時也是先寫入記憶體緩衝，緩衝寫滿之後再溢寫到磁碟檔案的。最後，同樣會將所有臨時磁碟檔案都合併成一個磁碟檔案，並建立一個單獨的索引檔案。

bypass執行機制的磁碟寫機制 跟未經優化的HashShuffleManager相比較：bypass執行機制的磁碟寫機制在最後會做一個磁碟檔案的合併，shuffle read的效能會更好。

bypass執行機制與普通SortShuffleManager相比較：第一，磁碟寫機制不同；第二，不會進行排序。 

shuffle相關引數調優

spark.shuffle.file.buffer

• 預設值：32k
• 引數說明：該引數用於設定shuffle write task的BufferedOutputStream的buffer緩衝大小。將資料寫到磁碟檔案之前，會先寫入buffer緩衝中，待緩衝寫滿之後，才會溢寫到磁碟。
• 調優建議：如果作業可用的記憶體資源較為充足的話，可以適當增加這個引數的大小（比如64k），從而減少shuffle write過程中溢寫磁碟檔案的次數，也就可以減少磁碟IO次數，進而提升效能。在實踐中發現，合理調節該引數，效能會有1%~5%的提升。

spark.reducer.maxSizeInFlight

• 預設值：48m
• 引數說明：該引數用於設定shuffle read task的buffer緩衝大小，而這個buffer緩衝決定了每次能夠拉取多少資料。
• 調優建議：如果作業可用的記憶體資源較為充足的話，可以適當增加這個引數的大小（比如96m），從而減少拉取資料的次數，也就可以減少網路傳輸的次數，進而提升效能。在實踐中發現，合理調節該引數，效能會有1%~5%的提升。

spark.shuffle.io.maxRetries

• 預設值：3
• 引數說明：shuffle read task從shuffle write task所在節點拉取屬於自己的資料時，如果因為網路異常導致拉取失敗，是會自動進行重試的。該引數就代表了可以重試的最大次數。如果在指定次數之內拉取還是沒有成功，就可能會導致作業執行失敗。
• 調優建議：對於那些包含了特別耗時的shuffle操作的作業，建議增加重試最大次數（比如60次），以避免由於JVM的full gc或者網路不穩定等因素導致的資料拉取失敗。在實踐中發現，對於針對超大資料量（數十億~上百億）的shuffle過程，調節該引數可以大幅度提升穩定性。

spark.shuffle.io.retryWait

• 預設值：5s
• 引數說明：具體解釋同上，該引數代表了每次重試拉取資料的等待間隔，預設是5s。
• 調優建議：建議加大間隔時長（比如60s），以增加shuffle操作的穩定性。

spark.shuffle.memoryFraction

• 預設值：0.2
• 引數說明：該引數代表了Executor記憶體中，分配給shuffle read task進行聚合操作的記憶體比例，預設是20%。
• 調優建議：在資源引數調優中講解過這個引數。如果記憶體充足，而且很少使用持久化操作，建議調高這個比例，給shuffle read的聚合操作更多記憶體，以避免由於記憶體不足導致聚合過程中頻繁讀寫磁碟。在實踐中發現，合理調節該引數可以將效能提升10%左右。

spark.shuffle.manager

• 預設值：sort
• 引數說明：該引數用於設定ShuffleManager的型別。Spark 1.5以後，有三個可選項：hash、sort和tungsten-sort。HashShuffleManager是Spark 1.2以前的預設選項，但是Spark 1.2以及之後的版本預設都是SortShuffleManager了。tungsten-sort與sort類似，但是使用了tungsten計劃中的堆外記憶體管理機制，記憶體使用效率更高。
• 調優建議：由於SortShuffleManager預設會對資料進行排序，因此如果你的業務邏輯中需要該排序機制的話，則使用預設的SortShuffleManager就可以；而如果你的業務邏輯不需要對資料進行排序，那麼建議參考後面的幾個引數調優，通過bypass機制或優化的HashShuffleManager來避免排序操作，同時提供較好的磁碟讀寫效能。這裡要注意的是，tungsten-sort要慎用，因為之前發現了一些相應的bug。

spark.shuffle.sort.bypassMergeThreshold

• 預設值：200
• 引數說明：當ShuffleManager為SortShuffleManager時，如果shuffle read task的數量小於這個閾值（預設是200），則shuffle write過程中不會進行排序操作，而是直接按照未經優化的HashShuffleManager的方式去寫資料，但是最後會將每個task產生的所有臨時磁碟檔案都合併成一個檔案，並會建立單獨的索引檔案。
• 調優建議：當你使用SortShuffleManager時，如果的確不需要排序操作，那麼建議將這個引數調大一些，大於shuffle read task的數量。那麼此時就會自動啟用bypass機制，map-side就不會進行排序了，減少了排序的效能開銷。但是這種方式下，依然會產生大量的磁碟檔案，因此shuffle write效能有待提高。

spark.shuffle.consolidateFiles

• 預設值：false
• 引數說明：如果使用HashShuffleManager，該引數有效。如果設定為true，那麼就會開啟consolidate機制，會大幅度合併shuffle write的輸出檔案，對於shuffle read task數量特別多的情況下，這種方法可以極大地減少磁碟IO開銷，提升效能。
• 調優建議：如果的確不需要SortShuffleManager的排序機制，那麼除了使用bypass機制，還可以嘗試將spark.shffle.manager引數手動指定為hash，使用HashShuffleManager，同時開啟consolidate機制。在實踐中嘗試過，發現其效能比開啟了bypass機制的SortShuffleManager要高出10%~30%。