1. 程式人生 > >3.3 HDFS引數解讀

3.3 HDFS引數解讀

第3章 HDFS:分散式檔案系統

3.3 HDFS引數解讀

3.3.1 官方文件

Hadoop官方文件地址: 
http://hadoop.apache.org/docs/r2.7.3/

由於Hadoop相關引數頁面需要通過FireFox瀏覽器開啟,這裡需要你先安裝FireFox瀏覽器。

這裡寫圖片描述

下拉頁面,可以在頁面左下角找到“Configuration”,其下面有core-site.xml、hdfs-site.xml兩個連結。本節內容主要是解讀一下這兩個檔案中的主要引數。

這裡寫圖片描述

2017-5-25 更新: 
現在官方已經能更新谷歌瀏覽器也可以開啟預設引數頁面了 
這裡寫圖片描述

3.3.2 core-site.xml

叢集全域性引數在core-site.xml檔案中設定,用於定義系統級別的引數,如HDFS URL、Hadoop的臨時目錄等。 
通過FireFox開啟“Configuration”的“core-site.xml”連結: 
http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/core-default.xml 
這裡寫圖片描述

名稱 預設值 說明
hadoop.tmp.dir /tmp/hadoop-${user.name} 臨時資料夾
fs.defaultFS file:/// 檔案系統主機和埠
io.file.buffer.size 4096 流檔案的緩衝區大小,建議設定為65536 ( 64K)

3.3.3 hdfs-site.xml

HDFS相關引數在hdfs-site.xml檔案中設定,如名稱節點和資料節點的存放位置、檔案副本的個數、檔案讀取許可權等。 
通過FireFox開啟“Configuration”的“hdfs-site.xml”連結: 

http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml 
這裡寫圖片描述

名稱 預設值 說明
dfs.name.dir ${hadoop.tmp.dir}/dfs/name NameNode 元資料存放位置
dfs.data.dir ${hadoop.tmp.dir}/dfs/data DataNode在本地磁碟存放block的位置,可以是以逗號分隔的目錄列表
dfs.permissions true 檢查許可權
dfs.replication 3 檔案副本數
dfs.namenode.secondary.http-address 0.0.0.0:50090 定義HDFS對應的HTTP伺服器地址和埠

第3章 HDFS:分散式檔案系統

3.3 HDFS引數解讀

3.3.1 官方文件

Hadoop官方文件地址: 
http://hadoop.apache.org/docs/r2.7.3/

由於Hadoop相關引數頁面需要通過FireFox瀏覽器開啟,這裡需要你先安裝FireFox瀏覽器。

這裡寫圖片描述

下拉頁面,可以在頁面左下角找到“Configuration”,其下面有core-site.xml、hdfs-site.xml兩個連結。本節內容主要是解讀一下這兩個檔案中的主要引數。

這裡寫圖片描述

2017-5-25 更新: 
現在官方已經能更新谷歌瀏覽器也可以開啟預設引數頁面了 
這裡寫圖片描述

3.3.2 core-site.xml

叢集全域性引數在core-site.xml檔案中設定,用於定義系統級別的引數,如HDFS URL、Hadoop的臨時目錄等。 
通過FireFox開啟“Configuration”的“core-site.xml”連結: 
http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/core-default.xml 
這裡寫圖片描述

名稱 預設值 說明
hadoop.tmp.dir /tmp/hadoop-${user.name} 臨時資料夾
fs.defaultFS file:/// 檔案系統主機和埠
io.file.buffer.size 4096 流檔案的緩衝區大小,建議設定為65536 ( 64K)

3.3.3 hdfs-site.xml

HDFS相關引數在hdfs-site.xml檔案中設定,如名稱節點和資料節點的存放位置、檔案副本的個數、檔案讀取許可權等。 
通過FireFox開啟“Configuration”的“hdfs-site.xml”連結: 
http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml 
這裡寫圖片描述

名稱 預設值 說明
dfs.name.dir ${hadoop.tmp.dir}/dfs/name NameNode 元資料存放位置
dfs.data.dir ${hadoop.tmp.dir}/dfs/data DataNode在本地磁碟存放block的位置,可以是以逗號分隔的目錄列表
dfs.permissions true 檢查許可權
dfs.replication 3 檔案副本數
dfs.namenode.secondary.http-address 0.0.0.0:50090 定義HDFS對應的HTTP伺服器地址和埠