1. 程式人生 > >Sqoop導表在大併發下造成RegionServer的系統cpu過高

Sqoop導表在大併發下造成RegionServer的系統cpu過高

對於初始時只有一個Region並配置過多的map時,可能會造成某一RegionServer的系統cpu過高,主要原因是多個map任務會通過RPC同時向一個RegionServer寫入資料,當RegionServer的RPC Handler執行緒過少時,其它map端就會等待,此時RegionServer會堆積大量的網路請求二無法及時響應,從而造成系統cpu過高,解決方案:

方案一:

增大RegionServer的RPC Handler執行緒數量(目前亦莊HBase叢集中RegionServer的RPC Handler執行緒數量為25)

方案二:

減少Sqoop導表時map任務數量的設定

方案三:

建立HBase中對應的表示,為其建立多個Region