Yarn 架構介紹
阿新 • • 發佈:2021-12-09
基本概念
Yarn 是 Hadoop 三大核心元件之一,是一個分散式程式的執行排程平臺
Yarn 中有兩大核心角色:
Resource Manager
- 接受使用者提交的分散式計算程式,併為其劃分資源
- 管理、監控各個 Node Manager 上的資源情況,以便於均衡負載
Node Manager
- 管理它所在機器的運算資源(cpu + 記憶體)
- 負責接受Resource Manager分配的任務,建立容器、回收資源
Yarn 架構圖
兩大基礎元件
Yarn 中有兩大基礎元件:Container 和 ApplicationMaster
-
ApplicationMatser (AM)
ApplicationMaster 管理在 YARN 中執行的每個應用程式例項。還負責協調來自 ResourceManager 的資源,並通過 NodeManager 監視容器的執行和資源的使用(CPU、記憶體、磁碟、網路等的資源分配)
-
Container(容器)
Container 是 YARN 中的資源抽象,它包含了很多緯度,如記憶體、CPU、磁碟、網路等。Resource Manager 為 AppMaster 返回的資源便是用 Container 表示的。YARN 會為每個任務分配一個 Container,且該任務只能使用該 Container 中描述的資源