1. 程式人生 > >YARN 工作原理

YARN 工作原理

YARN工作原理:

 

1、使用者向YARN 中提交應用程式或者,其中包括ApplicationMaster程式,啟動ApplicationMaster命令,使用者程式等。

2、ResourceManager 為作業分配第一個Container,並與對應的NodeManager 通訊,要求它在這個Container中啟動該作業的ApplicationMaster.

3、ApplicationMaster 首先向ResourceManager 註冊,這樣使用者可以直接通過ResourceManager 查詢作業的執行狀態。然後為各個任務申請資源並監控任務的執行狀態,直到執行結束。重複步驟(7)

4、ApplicationMaster 採用輪詢的方式通過RPC 請求向ResourceManager 申請和獲取資源

5、一旦AppllicationMaster 申請到資源,便於對應的NodeManager通訊,要求它啟動任務。

6、NodeManager 啟動任務

7、各個任務通過RPC協議向ApplicationMaster 彙報自己的狀態和進度,以便ApplicationMaster 隨時掌握各個任務的執行狀態,從而在任務失敗的時候重啟任務。

8、作業完成之後,ApplicationMaster 向 ResourceManager 登出並關閉自己。