1.1 YARN 基本架構

YARN是Hadoop 2.0中的資源管理系統，它的基本設計思想是將MRv1中的JobTracker拆分成了兩個獨立的服務：一個全域性的資源管理器ResourceManager和每個應用程式特有的ApplicationMaster。

其中ResourceManager負責整個系統的資源管理和分配，而ApplicationMaster負責單個應用程式的管理。

1.2 YARN基本組成結構

YARN總體上仍然是Master/Slave結構，在整個資源管理框架中，ResourceManager為Master，NodeManager為

YARN主要由ResourceManager、NodeManager、ApplicationMaster（圖中給出了MapReduce和MPI兩種計算框架的ApplicationMaster，分別為MR AppMstr

1.ResourceManager（RM）

RM是一個全域性的資源管理器，負責整個系統的資源管理和分配。它主要由兩個元件構成：排程器（Scheduler）和應用程式管理器（Applications Manager，ASM）。

（1）排程器

排程器根據容量、佇列等限制條件（如每個佇列分配一定的資源，最多執行一定數量的作業等），將系統中的資源分配給各個正在執行的應用程式。

需要注意的是，該排程器是一個“純排程器”，它不再從事任何與具體應用程式相關的工作，比如不負責監控或者跟蹤應用的執行狀態等，也不負責重新啟動因應用執行失敗或者硬體故障而產生的失敗任務，這些均交由應用程式相關的

（2） 應用程式管理器

應用程式管理器負責管理整個系統中所有應用程式，包括應用程式提交、與排程器協商資源以啟動ApplicationMaster、監控ApplicationMaster執行狀態並在失敗時重新啟動它等。

2. ApplicationMaster（AM）

使用者提交的每個應用程式均包含1個AM，主要功能包括：

與RM排程器協商以獲取資源（用Container表示）；

將得到的任務進一步分配給內部的任務；

與NM通訊以啟動/停止任務；

監控所有任務執行狀態，並在任務執行失敗時重新為任務申請資源以重啟任務。

當前YARN自帶了兩個AM實現，一個是用於演示AM編寫方法的例項程式distributedshell，它可以申請一定數目的Container以並行執行一個Shell命令或者Shell指令碼；另一個是執行MapReduce應用程式的AM—MRAppMaster，我們將在第8章對其進行介紹。此外，一些其他的計算框架對應的AM正在開發中，比如Open MPI、Spark等。

3. NodeManager（NM）

NM是每個節點上的資源和工作管理員，一方面，它會定時地向RM彙報本節點上的資源使用情況和各個Container的執行狀態；另一方面，它接收並處理來自AM的Container啟動/停止等各種請求。

4. Container

Container是YARN中的資源抽象，它封裝了某個節點上的多維度資源，如記憶體、CPU、磁碟、網路等，當AM向RM申請資源時，RM為AM返回的資源便是用Container表示的。YARN會為每個任務分配一個Container，且該任務只能使用該Container中描述的資源。

需要注意的是，Container不同於MRv1中的slot，它是一個動態資源劃分單位，是根據應用程式的需求動態生成的。截至本書完成時，YARN僅支援CPU和記憶體兩種資源，且使用了輕量級資源隔離機制Cgroups進行資源隔離。

1.3 YARN的執行流程

從圖中可以看出，流程主要分為兩階段：

第一個階段是啟動ApplicationMaster；

第二個階段是由ApplicationMaster建立應用程式，為它申請資源，並監控它的整個執行過程，直到執行完成。