1. 程式人生 > >hadoop錯誤INFO ipc.Client Retrying connect to server

hadoop錯誤INFO ipc.Client Retrying connect to server

問題

  • 今天在測試環境上跑任務的時候遇到了這個問題,找遍了網上的文章,都是讓改配置檔案的,比如這一個 Retrying connect to server ,但是在測試環境上我沒有許可權改配置檔案,所以也就沒有測試

解決方案

  • 之前的執行語句和jar包都是可以正常跑出結果的,這次也是在之前的jar包基礎上做了一些修改,為什麼就不能跑了呢?
  • 之後用控制變數法測試了很多引數,發現之前的跑的資料比這次小,之前5.4T,這次16T,於是將這次的資料分批次跑,減少一次跑的資料量,成功執行

總結

  • 出現這個錯誤的原因是資料量太大,導致hadoop出現連線錯誤
  • 改配置檔案的方法沒有試過,因為沒有許可權
  • 我的解決方案是寫了個指令碼分批次跑資料,減少一次