安裝FastDFS+Nginx
安裝FastDFS
FastDFS開發者的GitHub地址為:https://github.com/happyfish100
打開上述鏈接,我們點擊fastdfs–>release,發現最新版的FastDFS為2017年上傳的V5.11,接下來我們來安裝最新版的FastDFS。
在安裝前,我們新建一個目錄,用來存儲所有下載文件:mkdir /download,進入download目錄完成接下來操作:cd /download
1. 下載安裝 libfastcommon
libfastcommon是從 FastDFS 和 FastDHT 中提取出來的公共 C 函數庫,是FastDFS的基礎環境,安裝即可 。
1.1 下載 libfastcommon 壓縮包:wget https://github.com/happyfish100/libfastcommon/archive/V1.0.36.tar.gz
1.2 解壓 libfastcommon 壓縮包:tar -zxvf V1.0.36.tar.gz
1.3 進入解壓目錄編譯安裝:
cd libfastcommon-1.0.36/
編譯:./make.sh
在上面這步中報錯:gcc: 未找到命令,即沒有gcc命令,那就安裝gcc命令:sudo yum -y install gcc gcc-c++,然後重新編譯。
安裝:sudo ./make.sh install
從安裝日誌中可以找到 usr/include/fastcommon common_define.h 兩個路徑,先記錄下來(之後用)
2. 下載安裝FastDFS
2.1 下載FastDFS壓縮包:wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz
2.2 解壓:tar -zxvf V5.11.tar.gz
2.3 進入解壓目錄編譯安裝:
cd fastdfs-5.11/
編譯:./make.sh (註意:需要perl的支持,否則不能運行,可以參考此文章https://blog.csdn.net/wtwshui/article/details/79415799安裝)
安裝:sudo ./make.sh install
從安裝日誌中可以找到 /usr/include/fastdfs fdfs_define.h 兩個路徑,先記錄下來(之後用)
2.4 查看安裝後的相應文件與目錄
2.4.1 服務腳本:ll /etc/init.d/ | grep fdfs
2.4.2 配置文件(這四個是開發者給的樣例配置文件):ll /etc/fdfs/
2.4.3 命令工具:ll /usr/bin/ | grep fdfs
3. 配置FastDFS跟蹤器(Tracker)
首先,將 /etc/fdfs/目錄下開發者給的樣例配置文件復制並重命名:
進入目錄:cd /etc/fdfs/
復制文件:
sudo cp client.conf.sample client.conf
sudo cp storage.conf.sample storage.conf
sudo cp tracker.conf.sample tracker.conf
sudo cp storage_ids.conf.sample storage_ids.conf
1. 編輯配置文件: vim tracker.conf
2. 修改配置文件:其余的默認即可
配置文件是否不生效,false 為生效,不變即可:
disabled=false
提供服務的端口,不變即可:
port=22122
Tracker 數據和日誌目錄地址,該目錄必須手動創建:
base_path=/root/data/fastdfs/tracker
HTTP 服務端口,修改為80:
http.server_port=80
3. 創建tracker基礎數據目錄,即base_path對應的目錄
mkdir -p /root/data/fastdfs/tracker
4. 防火墻中打開跟蹤端口(默認的22122):
sudo firewall-cmd --permanent --zone=public --add-port=22122/tcp
5. 重啟防火墻:
sudo firewall-cmd --reload
6. 查看防火墻中開啟的端口:
sudo firewall-cmd --list-port
註意:CentOS7以上使用4.5.6方式開啟防火墻,CentOS6版本參考http://www.mamicode.com/info-detail-971703.html做相應操作
7. 啟動Tracker,初次成功啟動,會在 /home/bdc/data/fastdfs/ (配置的base_path)下創建 data、logs 兩個目錄。
sudo service fdfs_trackerd start
8. 查看 FastDFS Tracker 是否已成功啟動 ,22122端口正在被監聽,則算是Tracker服務安裝啟動成功。
sudo netstat -ntlp | grep 22122 或 sudo lsof -i:22122
9. 關閉Tracker命令:
sudo service fdfs_trackerd stop
10. 設置Tracker開機啟動
sudo chkconfig --add fdfs_trackerd
11. 查看開機啟動任務:
sudo chkconfig --list
4.配置 FastDFS 存儲器(Storage)
編輯配置文件:sudo vim storage.conf
修改配置文件:其余的默認即可
配置文件是否不生效,false 為生效,不變即可:
disabled=false
指定此 storage server 所在組(卷),根據自身需求更改:
group_name=group1
指定storage server 服務端口,默認即可:
port=23000
心跳間隔時間,單位為秒 (這裏是指主動向 tracker server 發送心跳),默認即可:
heart_beat_interval=30
Storage 數據和日誌目錄地址,該目錄必須手動創建:
base_path=/root/data/fastdfs/storage
存放文件時 storage server 支持多個路徑。這裏配置存放文件的基路徑數目,通常只配一個目錄。
store_path_count=1
逐一配置 store_path_count 個路徑,索引號基於 0。如果不配置 store_path0,那它就和 base_path 對應的路徑一樣。
store_path0=/root/data/fastdfs/storage
FastDFS 存儲文件時,采用了兩級目錄。這裏配置存放文件的目錄個數。 如果本參數只為 N(如: 256),那麽 storage server 在初次運行時,會在 store_path 下自動創建 N * N 個存放文件的子目錄。
subdir_count_per_path=256
tracker_server 的列表 ,會主動連接 tracker_server,有多個 tracker server 時,每個 tracker server 寫一行。
tracker_server=bdcTracker:22122
允許系統同步的時間段 (默認是全天) 。一般用於避免高峰同步產生一些問題而設定。
sync_start_time=00:00
sync_end_time=23:59
訪問端口
http.server_port=80
註意:需要重啟tracker後,配置才會生效
創建Storage基礎數據目錄,對應base_path目錄及store_path0路徑
mkdir -p /root/data/fastdfs/storage
防火墻中打開存儲器端口(默認的 23000)
sudo firewall-cmd --permanent --zone=public --add-port=23000/tcp
重啟防火墻:
sudo firewall-cmd --reload
查看防火墻中開啟的端口:
sudo firewall-cmd --list-port ‘
補充:由於上面tracker地址配置的不是ip地址,所以我們要修改host文件,使之與ip對應:
sudo vim /etc/hosts
添加如下內容,下面ip為虛擬機ip:
192.168.105.133 bdcTracker
啟動 Storage,啟動Storage前確保Tracker是啟動的。初次啟動成功,會在/root/data/fastdfs/storage 目錄下創建 data、 logs 兩個目錄。
sudo service fdfs_storaged start
查看 Storage 是否成功啟動,23000 端口正在被監聽,則 Storage 啟動成功。
sudo netstat -ntlp | grep 23000 或 sudo lsof -i:23000或sudo netstat -ntlp | grep fdfs
關閉 Storage:
sudo service fdfs_storaged stop
查看Storage和Tracker是否在通信:
fdfs_monitor /etc/fdfs/storage.conf
在打印結果中,看到 ip_addr = 192.168.105.133 (bdcTracker) ACTIVE ,表示正在通信。
設置 Storage 開機啟動
sudo chkconfig fdfs_storaged on
Storage 目錄,同 Tracker,Storage 啟動成功後,在base_path 下創建了data、logs兩個目錄,記錄著 Storage Server 的信息。在 store_path0 目錄下,創建了N*N個子目錄,用於存儲文件。
5. 文件上傳測試
修改 Tracker 服務器中的客戶端配置文件:sudo vim client.conf
修改配置,未列出的默認即可:
Client 的數據和日誌目錄,該目錄必須手動創建:
base_path=/root/data/fastdfs/client
Tracker端口
tracker_server=bdcTracker:22122
Http訪問端口
http.tracker_server_port=80
創建Client數據目錄:
mkdir -p /root/data/fastdfs/client
上傳測試
在linux內部執行如下命令上傳 02.jpg 圖片
fdfs_upload_file /etc/fdfs/client.conf /home/bdc/圖片/02.jpg
上傳成功後返回文件ID號:group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,返回的文件ID由group、存儲目錄、兩級子目錄、fileid、文件後綴名(由客戶端指定,主要用於區分文件類型)拼接而成。
查看文件:
ll /root/data/fastdfs/storage/data/00/00
安裝Nginx
前言:Nginx安裝環境準備工作
1) gcc準備:安裝nginx需要先將官網下載的源碼進行編譯,編譯依賴gcc環境,查看是否安裝gcc:
yum list installed | grep gcc
如果沒有gcc環境,需要安裝gcc,執行命令安裝:
sudo yum -y install gcc gcc-c++
2) PCRE準備:PCRE是一個Perl庫,包括 Perl 兼容的正則表達式庫。nginx的http模塊使用PCRE來解析正則表達式,所以需要在Linux上安裝PCRE庫,執行安裝命令:
sudo yum -y install pcre pcre-devel
3) zlib準備:zlib庫提供了很多種壓縮和解壓縮的方式,nginx使用zlib對http包的內容進行gzip,所以需要在linux上安裝zlib庫,運行安裝命令:
sudo yum -y install zlib zlib-devel
4) openssl準備:OpenSSL 是一個強大的安全套接字層密碼庫,囊括主要的密碼算法、常用的密鑰和證書封裝管理功能及SSL協議,並提供豐富的應用程序供測試或其它目的使用。
nginx不僅支持http協議,還支持https(即在ssl協議上傳輸http),所以需要在linux安裝openssl庫。運行安裝命令:
sudo yum -y install openssl openssl-devel
正式安裝Nginx
目前版本的FastDFS還不支持http訪問文件,所以要想通過http來訪問已經上傳成功的文件,需要安裝Nginx支持;Nginx只需要安裝到StorageServer所在的服務器即可,用於支持http訪問文件。
1. 下載Nginx:
wget https://nginx.org/download/nginx-1.14.0.tar.gz
2. 解壓
tar -zxvf nginx-1.14.0.tar.gz
3. 進入解壓目錄編譯安裝:
3.1 進入目錄:
cd nginx-1.14.0
3.2 配置Nginx:啟用 openssl密碼庫,並使用當前用戶啟動nginx,其余默認即可
./configure --with-http_ssl_module --user=root
3.3 編譯 Nginx:
make -j 4
3.4 安裝:
sudo make install
3.5 創建軟鏈接(類似快捷方式),並啟動 Nginx:
sudo ln -s /usr/local/nginx/sbin/nginx /usr/bin/
sudo nginx
其他命令:
sudo nginx -s stop
sudo nginx -s reload
3.6 查看是否啟動成功:
sudo netstat -anp | grep nginx
3.7 設置nginx開機啟動
sudo vim /etc/rc.local
添加下面一行:
/usr/local/nginx/sbin/nginx
然後更改文件權限
sudo chmod 744 /etc/rc.d/rc.local
3.8 查看nginx的版本及模塊
nginx -V
3.9 訪問剛剛上傳的圖片
1)修改nginx.conf配置
編輯文件:sudo vim /usr/local/nginx/conf/nginx.conf
註:原配置文件中有很多註釋掉的內容,這裏不再粘貼,,並且需要改動的地方已經加註釋標示出來了
#修改nginx啟動用戶,和系統啟動用戶一致,nginx默認啟動用戶為nobody,在nginx安裝的時候已經指定為root用戶
user root;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
server {
#偵聽端口
listen 80;
server_name localhost;
#修改映射地址,將http中的地址/group1/M00/映射為系統實際地址/home/bdc/data/fastdfs/storage/data/
location /group1/M00/ {
alias /root/data/fastdfs/storage/data/;
}
location / {
root html;
index index.html index.htm;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
重啟nginx:sudo nginx -s reload
訪問文件:
方式一:http://ip:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
註意這裏可能出現問題:Centos7自帶的最初版火狐瀏覽器解析上面地址的時候可能解析為一個目錄,即:http://bdctracker:8081/group1/M00/00/00/wKhphFrhIVuADqfzAASB-wpUaac425.jpg/這種形式,導致訪問不到文件,問題出在wKhphFrhIVuADqfzAASB-wpUaac425.jpg這個位置,把文件和訪問地址的後綴名改為.jpeg就可以訪問到,具體原因不太清楚,不過谷歌瀏覽器或者更新後的火狐瀏覽器又不會出現問題,按上面地址又可以訪問到文件,學藝不精,不再研究。。。。
另外註意:防火墻要放行80端口
方式二:wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,可以獲取到文件則nginx配置成功。
FastDFS 配置 Nginx 模塊
前言: fastdfs-nginx-module 模塊說明
FastDFS 通過 Tracker 服務器,將文件放在 Storage 服務器存儲, 但是同組存儲服務器之間需要進行文件復制, 數據同步有延遲的問題。
假設 Tracker 服務器將文件上傳到了 Stroage1,上傳成功後文件 ID已經返回給客戶端。此時 FastDFS 存儲集群機制會將這個文件同步到同組存儲 Stroage2,在文件還沒有復制完成的情況下,客戶端如果用這個文件 ID 在 Stroage2 上取文件,就會出現文件無法訪問的錯誤。而 fastdfs-nginx-module 可以重定向文件鏈接到源服務器取文件,避免客戶端由於復制延遲導致的文件無法訪問錯誤。
安裝配置fastdfs-nginx-module模塊
1) 下載 fastdfs-nginx-module
wget https://github.com/happyfish100/fastdfs-nginx-module/archive/master.zip
2) 解壓
unzip master.zip
3) 停止nginx服務
sudo nginx -s stop
4) nginx添加fastdfs-nginx-module模塊重新編譯安裝
進入nginx解壓目錄
cd nginx-1.14.0/
nginx配置fastdfs-nginx-module模塊
./configure --with-http_ssl_module --user=root --add-module=../fastdfs-nginx-module-master/src/
編譯
make
註意:編譯時可能會出現錯誤,如出現,解決方式如下:
cd fastdfs-nginx-module-master/src/
vim config
修改文件內容如下:
ngx_module_incs="/usr/include/fastcommon /usr/include/fastdfs" 說明:裏面兩個路徑是上文中記錄的
CORE_INCS="$CORE_INCS /usr/include/fastcommon /usr/include/fastdfs"
修改後重新 nginx配置fastdfs-nginx-module模塊
安裝
sudo make install
5) 查看Nginx的模塊
nginx -V
若有下面配置則證明模塊添加成功:
configure arguments: --add-module=../fastdfs-nginx-module-master/src/
6) 修改配置文件1
復制 fastdfs-nginx-module 源碼中的配置文件mod_fastdfs.conf,並修改配置
sudo cp ~/download/fastdfs-nginx-module-master/src/mod_fastdfs.conf /etc/fdfs/
編輯mod_fastdfs.conf文件:
sudo vim /etc/fdfs/mod_fastdfs.conf
修改如下配置,其余默認即可:
#連接超時時間
connect_timeout=15
# TrackerServer的IP和端口
tracker_server=bdcTracker:22122
# StorageServer端口
storage_server_port=23000
# 如果文件ID的uri中包含group分組信息,則要設置為true
url_have_group_name = true
# Storage配置的store_path0路徑,必須和storage.conf中的一致
store_path0=/root/data/fastdfs/storage
7) 修改配置文件2
復制 FastDFS 源碼中的配置文件到/etc/fdfs 目錄:
cd ~/download/fastdfs-5.11/conf/
sudo cp anti-steal.jpg http.conf mime.types /etc/fdfs/
8) 修改配置文件3
修改nginx的配置文件nginx.conf,修改下面配置,其它不變:
sudo vim /usr/local/nginx/conf/nginx.conf
#location /group1/M00/ {
#alias /home/bdc/data/fastdfs/storage/data/;
#}
#添加fastdfs-nginx-module模塊
location ~/group([0-9])/M00/ {
ngx_fastdfs_module;
}
註意:
1) nginx.conf 配置中的 listen 80端口值要與/etc/fdfs/storage.conf中的http.server_port=80 (前面配置為80了)端口值相對應;如果改成其它端口,則需要統一,同時在防火墻中打開該端口。
2) location 的配置,在集群模式中,有多個group,所以這裏以正則的方式配置,如果是單一節點可以只配置指定group。
9) 啟動Nginx
sudo nginx
打印類似如下信息,則配置成功:
ngx_http_fastdfs_set pid=119826
10) http訪問
能獲取到文件,則nginx配置成功;註意和前面中直接使用nginx路由訪問不同的是,這裏配置 fastdfs-nginx-module 模塊,可以重定向文件鏈接到源服務器取文件。
http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
好了,到此FastDFS單節點安裝配置成功,接下來我們使用Java操作FastDFS實現文件上傳和下載,最後將單節點模式改為集群模式
JAVA代碼上傳
package com.fdfs.demo; import org.csource.fastdfs.ClientGlobal; import org.csource.fastdfs.StorageClient; import org.csource.fastdfs.StorageServer; import org.csource.fastdfs.TrackerClient; import org.csource.fastdfs.TrackerServer; public class Demo1 { public static void main(String[] args) throws Exception { //加載配置文件,配置文件中的內容就是tracker服務的地址 ClientGlobal.init("fdfs_client.conf"); //創建一個TrackerClient對象 TrackerClient trackerClient = new TrackerClient(); //使用TrackerClient對象創建連接,獲得一個TrackerServer對象 TrackerServer trackerServer = trackerClient.getConnection(); // 定義存儲服務器對象句柄 StorageServer storageServer = null; StorageClient storageClient = new StorageClient(trackerServer, storageServer); String[] strings = storageClient.upload_file("D:/log.txt", "txt", null); for (String str : strings) { System.out.println(str); } } }
connect_timeout = 2 network_timeout = 30 charSet = UTF-8 http.tracker_http_port = 80 http.anti_steal_token = no http.secret_key = FastDFS1234567890 tracker_server = 192.168.220.128:22122
安裝FastDFS+Nginx