1. 程式人生 > >Hadoop YARN: 1/1 local-dirs are bad: /hadoop/yarn/local; 1/1 log-dirs are bad:/hadoop/yarn/log

Hadoop YARN: 1/1 local-dirs are bad: /hadoop/yarn/local; 1/1 log-dirs are bad:/hadoop/yarn/log

問題報錯

磁碟容量超過90%


網上參考資料

Hadoop YARN最近版本中增加的幾個非常有用的特性,包括:

(1)ResourceManager HA

在apache hadoop 2.4或者CDH5.0.0版本之後,增加了ResourceManger HA特性,支援基於Zookeeper的熱主備切換,具體配置引數可以參考Cloudera的文件:ResourceManager HA配置

需要注意的是,ResourceManager HA只完成了第一個階段的設計,即備ResourceManager啟動後,會殺死之前正在執行的Application,然後從共享儲存系統中讀取這些Application的元資料資訊,並重新提交這些Application。啟動ApplicationMaster後,剩下的容錯功能就交給ApplicationMaster實現了,比如MapReduce的ApplicationMaster會不斷地將完成的任務資訊寫到HDFS上,這樣,當它重啟時,可以重新讀取這些日誌,進而只需重新執行那些未完成的任務。ResourceManager HA第二個階段的任務是,備ResourceManager接管主ResourceManager後,無需殺死那些正在執行的Application,讓他們像任何事情沒有發生一樣執行下去。

(2) 磁碟容錯

在apache hadoop 2.4或者CDH5.0.0版本之後,增加了幾個對多磁碟非常友好地引數,這些引數允許YARN更好地使用NodeManager上的多塊磁碟,相關jira為:YARN-1781,主要新增了三個引數:

yarn.nodemanager.disk-health-checker.min-healthy-disks:NodeManager上最少保證健康磁碟比例,當健康磁碟比例低於該值時,NodeManager不會再接收和啟動新的Container,預設值是0.25,表示25%;

yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage

:一塊磁碟的最高使用率,當一塊磁碟的使用率超過該值時,則認為該盤為壞盤,不再使用該盤,預設是100,表示100%,可以適當調低;

yarn.nodemanager.disk-health-checker.min-free-space-per-disk-mb:一塊磁碟最少保證剩餘空間大小,當某塊磁碟剩餘空間低於該值時,將不再使用該盤,預設是0,表示0MB。

(3)資源排程器

Fair Scheduler:Fair Scheduler增加了一個非常有用的新特性,允許使用者線上將一個應用程式從一個佇列轉移到另外一個佇列,比如將一個重要作業從一個低優先順序佇列轉移到高優先順序佇列,操作命令是:bin/yarn application -movetoqueue appID -queue targetQueueName,相關jira為:

YARN-1721

Capacity Scheduler:Capacity Scheduler中資源搶佔功能經過了充分的測試,可以使用了。


相關推薦

Hadoop YARN: 1/1 local-dirs are bad: /hadoop/yarn/local; 1/1 log-dirs are bad:/hadoop/yarn/log

問題報錯磁碟容量超過90%網上參考資料Hadoop YARN最近版本中增加的幾個非常有用的特性,包括:(1)ResourceManager HA在apache hadoop 2.4或者CDH5.0.0版本之後,增加了ResourceManger HA特性,支援基於Zookee

Maven引入Hadoop依賴報錯:Missing artifact jdk.tools:jdk.tools:jar:1.6

cor java style 2.4 iss art java_home mapr 問題 Maven引入Hadoop依賴報錯:Missing artifact jdk.tools:jdk.tools:jar:1.6 原因是缺少tools.jar的依賴,tools.jar在j

成功解決You are using pip version 9.0.1, however version 9.0.3 is available. You should consider upgra

available blog nts pytho 命令 完美 ever iss term 解決問題 You are using pip version 9.0.3, however version 10.0.1 is available.You should conside

You are using pip version 10.0.1, however version 18.1 is available. You should consider upgrading via the 'python -m pip install --upgrade pip

pip提示: You are using pip version 10.0.1, however version 18.1 is available.You should consider upgrading via the 'python -m pip install --upgrade pip' c

You are using pip version 10.0.1, however version 18.1 is available. You should consider upgrading v

You are using pip version 10.0.1, however version 18.1 is available. You should consider upgrading via the 'python -m pip install --upgrade pip' comma

成功解決PIP安裝模組報錯,You are using pip version 9.0.1, however version xxx is available

在PIP安裝模組時,發現報以下錯誤: You are using pip version 9.0.1, however version 18.1 is available. You should consider upgrading via the 'python -m p

linux 安裝hadoop 的四大執行模式——完全分佈模式(版本2.9.1

hadoop完全分散式模式:hadoop的守護執行緒在不同的伺服器上(具體定義請自行查詢) 本機部署:實在前一篇文章偽分散式部署下進行操作的: 偽分佈部署連結:https://blog.csdn.net/weixin_39435629/article/details/84841252 前

linux 安裝hadoop 的四大執行模式——偽分佈模式(版本2.9.1

hadoop偽分佈模式:hadoop的守護程序在同一臺伺服器上(具體定義請自行查詢) 前提:請在閱讀《linux 安裝hadoop 的四大執行模式——本地模式》的基礎上進行閱讀 1、將本地模式的配置檔案複製出來 建立軟連線 ,便於後續方便使用 執行命令:$>cp -r &

Doing Well by Doing Bad: Writing Bad Code with Go Part 1

Doing Well by Doing Bad: Writing Bad Code with Go Part 1A Satirical Take on Programming in GoAfter decades of programming in Java, for the past several yea

成功解決You are using pip version 10.0.1, however version 18.0 is available. You should consider upgradi

解決問題: You are using pip version 10.0.1, however version 18.0 is available. You should consider upgrad

Pycharm 中You are using pip version 10.0.1, however version 18.1 is available. You should consider upgrading via the 'python -m pip install --upgra

今天執行程式的時候出現了: You are using pip version 10.0.1, however version 18.1 is available.You should consider upgrading via the 'python -m pip install --upgrade p

java.io.EOFException: End of File Exception between local host is: "thinkpad/127.0.0.1"; destination

 我這個是單機模式的hadoop環境 java.io.EOFException: End of File Exception between local host is: "thinkpad/127.0.0.1"; destination host is: "localhost

hadoop學習(六)WordCount示例深度學習MapReduce過程(1

        花了整整一個下午(6個多小時),整理總結,也算是對這方面有一個深度的瞭解。日後可以回頭多看看。         我們都安裝完Hadoop之後,按照一些案例先要跑一個WourdCount程式,來測試Hadoop安裝是否成功。在終端中用命令建立一個資料夾,簡單的

android studio 不能生成apk:Gradle build finished with 1 error(s) in 5 sec Unexpected error Local path do

大概原因是sdk版本過高無法自動生成apk(ps:無法生成還弄那麼高版本也是醉了); 解決辦法是:先將android studio 關閉,找一個低版本的sdk,將sdk中的tools檔案複製;                         將android stu

Hadoop編碼解碼【壓縮解壓縮】機制詳解(1

編碼/解碼器一旦找到,就會被用來去掉檔名字尾生成輸出檔名(通過CompressionCodecFactory的靜態方法removeSuffix()來實現)。這樣,如下呼叫程式便把一個名為file.gz的檔案解壓縮為file檔案: % hadoop FileDecompressor file.gz Comp

Error: Lambda expressions are allowed only at source level 1.8 or above

這個問題也是奇葩,前幾天還好好的,突然開啟 idea 執行專案就報這個錯誤,真是無語了,網上搜了一波,終於解決了 檢查 pom 檔案的 target 和 source <properties

XXX are not supported at language level ‘1.x’ ;usage API documented as @Since1.x +.

在使用intellij IDEA時,出現了編譯不成功,但是程式碼沒有問題的情況。 出錯資訊為XXX are not supported at language level ‘1.x’ 。(注:usage API documented as @Since1.x +. 同樣的解

解決Python3.7安裝pygame報錯You are using pip version 10.0.1, however version 19.1 is available.

win bubuko python3.7 whl 顯示 game image install 下載 背景:   學習python開發中,需要用到pygame插件,因此按照參考書《Python編程實踐,從入門到實踐》指引安裝Pygame包。   但是利用pip 命

[大數據]-Logstash-5.3.1的安裝導入數據到Elasticsearch5.3.1並配置同義詞過濾

cat 3.1 send text 開啟 gui 插件 work message 閱讀此文請先閱讀上文:[大數據]-Elasticsearch5.3.1 IK分詞,同義詞/聯想搜索設置,前面介紹了ES,Kibana5.3.1的安裝配置,以及IK分詞的安裝和同義詞設置,這裏主

為什麽在 Java 中用 (low+high)>>>1 代替 (low+high)/2 或 (low+high)>>1 來計算平均值呢?好在哪裏?

println nbsp 溢出 單獨 執行 出現 效率 void 們的 >>>與>>是位運算符,只對整型有效(不能用於浮點型)。當是整型的時候(low+high)>>1可以代替(low+high)/2。>>>是無符