1. 程式人生 > 其它 >Yarn 架構介紹

Yarn 架構介紹

基本概念

Yarn 是 Hadoop 三大核心元件之一,是一個分散式程式的執行排程平臺

Yarn 中有兩大核心角色

Resource Manager
  • 接受使用者提交的分散式計算程式,併為其劃分資源
  • 管理、監控各個 Node Manager 上的資源情況,以便於均衡負載
Node Manager
  • 管理它所在機器的運算資源(cpu + 記憶體)
  • 負責接受Resource Manager分配的任務,建立容器、回收資源

Yarn 架構圖

兩大基礎元件

Yarn 中有兩大基礎元件:Container 和 ApplicationMaster

  • ApplicationMatser (AM)

    ApplicationMaster 管理在 YARN 中執行的每個應用程式例項。還負責協調來自 ResourceManager 的資源,並通過 NodeManager 監視容器的執行和資源的使用(CPU、記憶體、磁碟、網路等的資源分配)

  • Container(容器)

    Container 是 YARN 中的資源抽象,它包含了很多緯度,如記憶體、CPU、磁碟、網路等。Resource Manager 為 AppMaster 返回的資源便是用 Container 表示的。YARN 會為每個任務分配一個 Container,且該任務只能使用該 Container 中描述的資源