Nginx + Lua搭建檔案上傳下載服務（轉載騰訊雲大神）
導語
專案需要做一個檔案上傳下載服務，利用 nginx＋lua 做一個代理服務，上傳入口統一，分發到不同的機器儲存，下載連結和物理儲存隔離，支援新增 agent 的方式擴容，這裡主要講一下思路和搭建配置過程，大神勿噴。
主要邏輯
上傳
前端請求 nginx 服務， nginx 呼叫 upload 指令碼，指令碼通過查詢配置，找到對應的邏輯儲存路徑和物理儲存機器的 agent 的 ip 和埠，通過 tcp 發包到對應 agent ，部署在對應機器的 agent 接受資料，並寫到本地檔案。
下載
http下載請求 nginx ， nginx 呼叫 download 指令碼，指令碼解析連結引數，根據引數找到對應的 agent 地址，請求返回檔案二進位制內容，指令碼接受到 agent 返回的資料，返回給請求端。
配置Nginx＋lua
接下來主要講一下 nginx 安裝配置（這裡包括lua的二進位制流處理 lpack， md5計算， mysql 操作， json 操作）
1、安裝 nginx
解壓tar -xvf nginx-1.10.3.tar.gz
2、安裝 luajit（輕量級 lua）
修改 makefile 裡面的安裝路徑export PREFIX= /usr/local/luajit
然後安裝make &make install
3、安裝nginx_lua_module
解壓
4、 安裝ngx_devel_kit （NDK提供函式和巨集處理一些基本任務，減輕第三方模組開發的程式碼量）
5、 安裝編譯，匯入
export LUAJIT_LIB=/usr/local/luajit/lib export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0 ./configure --prefix=/usr/local/nginx --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10.3 make -j2 make install
啟動/usr/local/nginx/sbin/nginx 重啟命令` usr/local/nginx/sbin/nginx
-s reload v
如果報錯找不到luajit庫ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2
測試nginx直接開啟瀏覽器就可以了http:10.x.x.x:8080就可以看到歡迎介面了
6 、配置conf/nginx.conf執行 lua 指令碼
增加lua庫的查詢路徑lua_package_path，lua_package_cpath
修改 Makefile 裡面的
PREFIX＝/usr/local/luajit就是luajit 的安裝路徑，make後將生成的
cjson.so拷貝到
lua_package_cpath目錄下
主要程式碼
1、前端上傳頁面程式碼
<!DOCTYPE html> <html> <head> <title>File upload example</title> </head> <body> <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data"> <input type="file" name="testFileName"/> <input type="submit" name="upload" value="Upload" /> </form> </body> </html>
2、upload上傳程式碼，該模組在解析檔案上傳請求的過程中，主要採用了簡單的類似有限狀態機的演算法來實現的，在不同的狀態由相應的 handler 進行處理。
--檔案下載服務寫到 saveRootPath .."/" .. filename 下面 function DownLoad() local chunk_size = 4096 local form,err=upload:new(chunk_size) if not form then ngx.log(ngx.ERR, "failed to new upload: ", err) ngx.exit(ngx.HTTP_INTERNAL_SERVER_ERROR) end form:set_timeout(100000) while true do local typ,res,err=form:read() if not typ then ErrorMsg="failed to read :"..err return 1 end if typ =="header" then local key=res[1] local value=res[2] if key =="Content-Disposition" then local kvlist=string.split(value,';') for _, kv in ipairs(kvlist) do local seg = string.trim(kv) if seg:find("filename") then local kvfile = string.split(seg, "=") filename = string.sub(kvfile[2], 2, -2) if filename then --獲取檔案字尾名字 fileExtension=getExtension(filename) local linuxTime=tostring(os.time()) filePath=saveRootPath .."/" ..linuxTime..filename fileToSave,errmsg = io.open(filePath, "w+") --儲存的檔案路徑 --ngx.say("failed to open file ", filePath) if not fileToSave then --ngx.say("failed to open file ", filePath .. errmsg) ErrorMsg="開啟檔案失敗"..filePath .. errmsg return 1 end else ErrorMsg="請求引數找不到檔名字" return 1 end --跳出迴圈 break end end end elseif typ =="body" then if fileToSave then fileToSave:write(res) fileMd5:update(res) end elseif typ =="part_end" then if fileToSave then local md5_sum=fileMd5:final() --ngx.say("md5: ", str.to_hex(md5_sum)) fileMD532=str.to_hex(md5_sum) fileToSave:close() fileToSave = nil end elseif typ =="eof" then break else ngx.log(ngx.INFO, "do other things") end end return 0 end
3、tcp接收二進位制資料
-- 讀取byte function readInt8(tcp) local next, val = string.unpack(tcp:receive(1), "b") return tonumber(val); end -- 讀取int16 function readInt16(tcp) local next, val = string.unpack(tcp:receive(2), "h"); return tonumber(val); end -- 讀取int32 function readInt32(tcp) local next, val = string.unpack(tcp:receive(4), ">i"); return tonumber(val); end -- 讀取字串 function readString(tcp,len) return tostring(tcp:receive(len)); end
4、tcp寫二進位制資料，這裡和 agent 的通訊協議是：開始標誌位＋包長度＋json 字串＋結束標誌位，所以對應 pack 用的引數就是 bIAb ，> 就是轉化為大端
jsonData["filename"]=fileMD532 .. "." .. fileExtension jsonData["cmd"]="write" jsonData["fileSize"]=tostring(filelen) jsonData["path"]=System.."/"..StorageDate local Jsonstr=cjson.encode(jsonData) local uiLen=string.len(Jsonstr) senddata=bpack(">b1IAb",startIndex,uiLen,Jsonstr,endIndex) socket:send(senddata)
5、下載錯誤的時候，使用了 redirect 直接跳轉到錯誤頁面，方便輸出錯誤資訊，其實這裡還可以做使用者 token 校驗
local ErrorUrl="/downloadError.html" ErrorMsg="url 引數解析有問題 "..index return ngx.redirect(ErrorUrl.."?msg="..ErrorMsg,``` ngx.HTTP_MOVED_TEMPORARILY)
相關推薦