概述

HDFS即Hadoop分散式檔案系統，主要用於支援海量資料的分散式儲存管理，適合一次寫，多次讀取資料的應用場景。在HDFS檔案系統中有幾個重要的守護程序協調的執行來提供服務：

• 名稱節點程序
• 輔助名稱節點程序
• 資料節點程序
  HDFS也是主從架構的。執行名稱節點程序的伺服器我們稱之為主節點，執行資料節點程序的伺服器稱之為從節點。HDFS向外提供一個統一的檔案系統名稱空間，使用者就像使用一個檔案系統一樣來存取叢集節點上的資料。

儲存方式及策略

儲存方式

HDFS中檔案的儲存方式為塊儲存，即在HDFS檔案系統中，每個檔案被分割為多個數據塊進行儲存，一般典型的資料塊的大小為64MB,也可以將其配置為32MB或者128MB。一個大檔案會被分割為多個數據塊進行儲存，且如果檔案的大小小於一個塊的大小，是不會佔據整個塊空間的。

儲存策略

檔案按照資料塊形式儲存在資料節點上，為了防止節點故障，這些資料是有備份的，預設的備份數量為3.具體的備份策略如下圖所示：

1. 第一個block是放置在client所在的節點中，如果client不在叢集範圍內，那麼第一個block儲存的節點是隨機選取的，一般會選擇性的選取那些資源佔用較少的node節點
2. 第二個block會放置在與第一個節點不同的機架中，節點node是隨機選取的
3. 第三個block與第二個block在同一個機架但是不同的節點node上,節點node隨機選取

這三個資料塊的放置是有一定講究的。

• 為什麼不將這三個資料塊放置在同一個節點上或者同一個機架的不同節點上呢？顯而易見這樣做的話資料的可靠性不高，因為如果節點損壞或者機架故障的話，那麼這部分資料就會丟失。
• 為什麼不講這三個資料塊放置在三個不同的機架上呢？這樣做的話資料抵禦機架故障的能力更強豈不是更好。其實機架故障的概率遠遠低於節點故障的概率，而把資料備份到不同的機架上會導致Hadoop系統寫檔案的效能大幅度下降。
• 折中方案就是就是上述實際採用的備份策略，既保證資料儲存備份的可靠性，也在一定程度上保證了Hadoop系統寫效能的提升。

名稱節點與輔助名稱節點

名稱節點

名稱節點主要功能：

• 管理檔案系統的名稱空間，維護著所有檔案的元資料資訊，這些資訊以兩個檔案形式永久的 儲存在本地磁碟上：名稱空間映象和編輯日誌檔案
• namenode同時也記錄著每個檔案中各個資料塊所在節點的資訊，但並不永久儲存這些資訊，這些資訊會在系統啟動時由資料節點重新建立
• 負責與客戶端互動，管理所有的檔案操作，包括檔案/目錄的開啟，關閉，移動，重新命名等

名稱節點儲存的元資料包括以下幾個方面：

• 檔案/目錄名稱及相對於其父目錄的位置
• 檔案和目錄的所有權及許可權
• 各個資料塊的檔名。所有的資料塊以檔案的形式存放在資料節點的本地檔案系統的目錄中

名稱節點維護的元資料儲存在名稱節點的本地磁碟上，為了能夠快速訪問，一般把元資料載入到記憶體，很大程度上提高了Hadoop系統的操作效能，同時也是Hadoop系統的一個瓶頸（特別對於小檔案儲存）

資料節點 負責儲存實際的檔案資料

輔助名稱節點

下面介紹一下檔案系統映象與編輯日誌
名稱節點上儲存元資料的檔案為fsimage,fsimage檔案是檔案系統元資料的一個永久性檢查點，然而並非每一個寫操作都會更新該檔案，因為fsimage檔案是一個大型檔案（可能為幾個GB）,如果頻繁的執行寫操作的話會使得系統執行的極為緩慢，影響效能。而Hadoop系統執行期間任何涉及對元資料修改的操作都儲存在記憶體中，並且被持久化到一個名為edits(編輯日誌)的檔案中。這樣會造成一個問題，edits檔案將會無限增長。當namenode需要重啟的時候，由於需要恢復edits檔案中的各項操作，會使得重啟非常緩慢，為了解決這個問題從而引入了輔助名稱節點。
輔助名稱節點主要為主節點記憶體中的檔案系統元資料建立檢查點，具體步驟如下所示：

1. 輔助名稱節點請求名稱節點namenode停止使用edits檔案，暫時將新的寫操作記錄到一個新的檔案，這個新的檔名稱叫做edits.new
2. 輔助namenode從namenode獲取fsimage和edits檔案
3. 輔助namenode將fsimage檔案載入記憶體，逐一執行edits檔案中的操作，建立新的fsimage檔案
4. 輔助namenode將新的fsimage檔案傳送回namenode
5. namenode接收新的fsimage，並使用新的fsimage檔案替換舊的fsimage檔案，用步驟1產生的edits.new檔案中的內容替換原edits檔案中的內容
6. 更新fstime檔案來記錄檢查點執行的時間

執行完成後，namenode就擁有最新的fsimage檔案和一個較小的edits檔案，可以避免之前說的問題。
上述步驟執行流程圖如下所示：

namenode容錯機制

從上述內容可以看出，在Hadoop1.x系統中很容易發生單點故障，因為如果fsimage檔案和edits檔案資料損壞了，存放在HDFS系統上的所有資料都會丟失，針對這一個問題，採用了兩種機制來對namenode實現容錯：

1. 第一種方法就是備份那些組成檔案系統元資料持久狀態的檔案。一般在將持久狀態寫入本地磁碟的同時，再寫入到一個遠端掛載的網路檔案系統（NFS）中。
2. 第二個方法是執行一個輔助namenode,過程如上所述，但是其狀態總是滯後於namenode,難免會丟失資料，一般結合NFS上的元資料進行恢復，作為新的namenode

Hadoop2.x實現HDFS的高可用性：

1. 引入高可用名稱節點的概念，使用兩個相同的名稱節點，一個處在活動模式，一個處在待機模式，處在活動模式的名稱節點為系統提供服務，處在待機模式的名稱節點需要實時同步活動名稱節點的資料，這樣當活動節點宕機時，可以快速的進行故障切換。
2. 兩個名稱節點共享同一個儲存裝置，通過NFS實現，活動節點的任何修改都會記錄到共享儲存裝置的edits日誌檔案中去