1. 程式人生 > 實用技巧 >RabbitMQ Windows 安裝

RabbitMQ Windows 安裝

Linux下搭建FastDFS檔案伺服器(親測成功)

2020-03-09 22:54:3211905收藏1 分類專欄:伺服器打包部署 版權

FastDFS是一個開源的輕量級分散式檔案系統,它對檔案進行管理,功能包括:檔案儲存、檔案同步、檔案訪問(檔案上傳、文 件下載)等,解決了大容量儲存和負載均衡的問題。特別適合以檔案為載體的線上服務,如相簿網站、視訊網站等等。

FastDFS為網際網路量身定製,充分考慮了冗餘備份、負載均衡、線性擴容等機制,並注重高可用、高效能等指標,使用FastDFS很容易搭建一套高效能的檔案伺服器叢集提供檔案上傳、下載等服務。

簡介

FastDFS服務端有兩個角色:跟蹤器(tracker)和儲存節點(storage)。跟蹤器主要做排程工作,在訪問上起負載均衡的作用。

儲存節點儲存檔案,完成檔案管理的所有功能:就是這樣的儲存、同步和提供存取介面,FastDFS同時對檔案的metadata進行管理。所謂檔案的meta data就是檔案的相關屬性,以鍵值對(key value)方式表示,如:width=1024,其中的key為width,value為1024。檔案metadata是檔案屬性列表,可以包含多個鍵值對。

跟蹤器和儲存節點都可以由一臺或多臺伺服器構成。跟蹤器和儲存節點中的伺服器均可以隨時增加或下線而不會影響線上服務。其中跟蹤器中的所有伺服器都是對等的,可以根據伺服器的壓力情況隨時增加或減少。

為了支援大容量,儲存節點(伺服器)採用了分卷(或分組)的組織方式。儲存系統由一個或多個卷組成,卷與卷之間的檔案是相互獨立的,所有卷的檔案容量累加就是整個儲存系統中的檔案容量。一個卷可以由一臺或多臺儲存伺服器組成,一個卷下的儲存伺服器中的檔案都是相同的,卷中的多臺儲存伺服器起到了冗餘備份和負載均衡的作用。

在卷中增加伺服器時,同步已有的檔案由系統自動完成,同步完成後,系統自動將新增伺服器切換到線上提供服務。

當儲存空間不足或即將耗盡時,可以動態添加捲。只需要增加一臺或多臺伺服器,並將它們配置為一個新的卷,這樣就擴大了儲存系統的容量。

FastDFS中的檔案標識分為兩個部分:卷名和檔名,二者缺一不可。

上傳互動過程

1. client詢問tracker上傳到的storage,不需要附加引數;

2. tracker返回一臺可用的storage;

3. client直接和storage通訊完成檔案上傳。

下載互動過程

1. client詢問tracker下載檔案的storage,引數為檔案標識(卷名和檔名);

2. tracker返回一臺可用的storage;

3. client直接和storage通訊完成檔案下載。

需要說明的是,client為使用FastDFS服務的呼叫方,client也應該是一臺伺服器,它對tracker和storage的呼叫均為伺服器間的呼叫。

下載安裝 libfastcommon

libfastcommon是從 FastDFS 和 FastDHT 中提取出來的公共 C 函式庫,基礎環境, 安裝即可 。

1、進入/usr/local目錄 下載安裝包執行命令:
wgethttps://github.com/happyfish100/libfastcommon/archive/V1.0.7.tar.gz

2、解壓

tar -zxvf libfastcommon-1.0.7.tar.gz 

3、編譯、安裝
進入剛剛解壓的目錄

cd libfastcommon-1.0.7


執行命令:

  1. ./make.sh
  2. ./make.sh install

如果遇見這個錯誤安裝依賴

yum -y install zlib zlib-devel pcre pcre-devel gcc gcc-c++ openssl openssl-devel libevent libevent-devel perl unzip net-tools wget  

4、 libfastcommon.so 安裝到了/usr/lib64/libfastcommon.so,但是FastDFS主程式設定的lib目錄是/usr/local/lib,所以需要建立軟連結。

  1. ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
  2. ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so
  3. ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
  4. ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

下載安裝FastDFS

1、下載FastDFS
wget https://github.com/happyfish100/fastdfs/archive/V5.05.tar.gz
2、解壓

  1. tar -zvxf fastdfs-5.05.tar.gz
  2. cd fastdfs-5.05

3、編譯、安裝

  1. ./make.sh
  2. ./make.sh install

FastDFS 服務指令碼設定的 bin 目錄是 /usr/local/bin, 但實際命令安裝在 /usr/bin/ 下。
建立 /usr/bin 到 /usr/local/bin 的軟連結(這一步關係到後面某些命令的執行)。
  

  1. ln -s /usr/bin/fdfs_trackerd /usr/local/bin
  2. ln -s /usr/bin/fdfs_storaged /usr/local/bin
  3. ln -s /usr/bin/stop.sh /usr/local/bin
  4. ln -s /usr/bin/restart.sh /usr/local/bin

配置FastDFS跟蹤器(Tracker)

配置檔案詳細說明參考:FastDFS 配置檔案詳解

1、進入 /etc/fdfs,複製 FastDFS 跟蹤器樣例配置檔案 tracker.conf.sample,並重命名為 tracker.conf。
命令:

  1. cd /etc/fdfs
  2. cp tracker.conf.sample tracker.conf


2、 先在home資料夾下建立fastdfs目錄在建立後面要用到的四個目錄如圖:

  1. mkdir -p /home/fastdfs/file
  2. mkdir -p /home/fastdfs/client
  3. mkdir -p /home/fastdfs/storage
  4. mkdir -p /home/fastdfs/tracker

3、編輯tracker.conf ( vitracker.conf),標紅的需要修改下,其它的預設即可。

  1. 配置檔案是否不生效,false 為生效
  2. disabled=false
  3. 提供服務的埠(預設埠)
  4. port=22122
  5. Tracker 資料和日誌目錄地址(上面已經建立)
  6. base_path=/home/fastdfs/tracker
  7. HTTP 服務埠
  8. http.server_port=80(預設埠需和nginx等保持一致)

4、啟動Tracker
初次成功啟動,會在 /home/fdfsdfs/tracker/ (配置的base_path)下建立 data、logs 兩個目錄。
命令:

/etc/init.d/fdfs_trackerd start


啟動後目錄如圖:

檢視 FastDFS Tracker 是否已成功啟動 ,22122埠正在被監聽,則算是Tracker服務安裝成功。
命令:
netstat -unltp|grep fdfs


安裝成功結果:
關閉Tracker命令:
service fdfs_trackerd stop

配置 FastDFS 儲存 (Storage)


1、進入 /etc/fdfs 目錄,複製 FastDFS 儲存器樣例配置檔案 storage.conf.sample,並重命名為 storage.conf
命令:

  1. cd /etc/fdfs
  2. cp storage.conf.sample storage.conf

2、編輯storage.conf( vistorage.conf)

  1. 配置檔案是否不生效,false 為生效
  2. disabled=false
  3. 指定此 storage server 所在 組(卷)
  4. group_name=group1
  5. storage server 服務埠
  6. port=23000
  7. 心跳間隔時間,單位為秒 (這裡是指主動向 tracker server 傳送心跳)
  8. heart_beat_interval=30
  9. Storage 資料和日誌目錄地址(前面已經建立)
  10. base_path=/home/fastdfs/storage
  11. 存放檔案時 storage server 支援多個路徑。這裡配置存放檔案的基路徑數目,通常只配一個目錄。
  12. store_path_count=1
  13. 逐一配置 store_path_count 個路徑,索引號基於 0。
  14. 如果不配置 store_path0,那它就和 base_path 對應的路徑一樣。
  15. store_path0=/home/fastdfs/file
  16. FastDFS 儲存檔案時,採用了兩級目錄。這裡配置存放檔案的目錄個數。
  17. 如果本引數只為 N(如: 256),那麼 storage server 在初次執行時,會在 store_path 下自動建立 N * N 個存放檔案的子目錄。
  18. subdir_count_per_path=256
  19. tracker_server 的列表 ,會主動連線 tracker_server
  20. 有多個 tracker server 時,每個 tracker server 寫一行
  21. tracker_server=ip:22122
  22. 允許系統同步的時間段 (預設是全天) 。一般用於避免高峰同步產生一些問題而設定。
  23. sync_start_time=00:00
  24. sync_end_time=23:59
  25. 訪問埠:
  26. http.server_port=80(與ngnix和trackeSever的埠一致)

3、 啟動 Storage

啟動Storage前確保Tracker是啟動的(一定要確保tracker是啟動)。初次啟動成功,會在 /home/fastdfs/storage目錄下建立 data、 logs 兩個目錄。
命令:
/etc/init.d/fdfs_storaged start
啟動成功目錄:

關閉Storage命令:
service fdfs_storaged stop

4、 檢視Storage和Tracker是否在通訊:
命令:
/usr/bin/fdfs_monitor /etc/fdfs/storage.conf


(仔細看裡面的結果,有助於理解)

配置客戶端

1、 修改 Tracker 伺服器中的客戶端配置檔案
命令:

  1. cd /etc/fdfs
  2. cp client.conf.sample client.conf


vi client.conf
修改如下配置即可,其它預設。

  1. Client 的資料和日誌目錄
  2. base_path=/home/fastdfs/client
  3. Tracker埠
  4. tracker_server=ip:22122(tracker地址)

2、上傳測試

在linux內部執行如下命令上傳 123.png 圖片(注意要進入圖片目錄)
/usr/bin/fdfs_upload_file /etc/fdfs/client.conf 123.png
執行結果:

安裝Nginx(新版的FastDFS是不能直接訪問檔案的,一定要配好ngnix)


1、安裝nginx所需環境  

  1. gcc 安裝
  2. yum install gcc-c++
  3. PCRE pcre-devel 安裝
  4. yum install -y pcre pcre-devel
  5. zlib 安裝
  6. yum install -y zlib zlib-devel
  7. OpenSSL 安裝
  8. yum install -y openssl openssl-devel

2、安裝Nginx
下載nginx
命令:
wget -c https://nginx.org/download/nginx-1.12.1.tar.gz

解壓
命令:
tar -zxvf nginx-1.12.1.tar.gz

編譯、安裝
使用預設配置
命令:

  1. cd nginx-1.12.1
  2. ./configure
  3. make
  4. make install

3、關閉防火牆
centOS6及以前版本使用命令: systemctl stop iptables.service
centOS7關閉防火牆命令: systemctl stop firewalld.service
4、啟動nginx
命令:
/usr/local/nginx/sbin/nginx -s reload

5.直接在瀏覽器輸入IP檢視ngnix是否啟動成功如圖


6.訪問檔案
編輯ngnix.conf檔案
命令:
vi /usr/local/nginx/conf/nginx.conf

新增如下行,將 /group1/M00 對映到 /lhome/fastdfs/file/data
location /group1/M00 {
alias /home/fastdfs/file/data;
}
訪問圖片(如圖):