1. 程式人生 > >Redis實現分散式資料夾鎖

Redis實現分散式資料夾鎖

緣起

最近做一個專案,類似某度雲盤,另外附加定製功能,本人負責雲盤相關功能實現,這個專案跟雲盤不同的是,以專案為分配許可權的單位,同一個專案及子目錄所有有許可權的使用者可以同時操作所有檔案,這樣就很容易出現併發操作,而且表結構設計的時候,定下來檔案和資料夾都有個path欄位,儲存的是所在父級資料夾路徑,這樣檢索方便,重新命名和移動比較麻煩。

如下,例如甲同學正在移動專案下C資料夾,而此時乙同學也在操作專案下D下的d.txt檔案,這樣就會出現問題,所以需要分散式鎖控制,甲在操作C資料夾的時候,C資料夾所有子檔案和包含C資料夾的父資料夾都被鎖住,如圖將會被鎖定的資料夾和子檔案有:A、C、c.txt、D、E、d.txt,其中a.txt和B未被鎖定,這個是移動的情況,如下表格列出其他情況.

操作物件 操作 新建 上傳 移動資料夾 移動檔案 複製資料夾 複製檔案 重新命名資料夾 重新命名檔案 刪除資料夾 刪除檔案 回收站清除
/A 新建 × × × × /
/A 上傳 × × × × /
/A->/B 移動資料夾 A×B× A×B× A×B× A×B× A√B√ A√B√ A×B× A×B√ A×B× A×B√ /
a.txt->/B 移動檔案 B√ B√ B√ a√B× a×B× a×B√ a×B√ /
/A->/B 複製資料夾 B√ B√ B√ B√ B√ B√ B√ /
a.txt->/B 複製檔案 B√ B√ B√ B√ B√ B√ B√ /
/A 重新命名資料夾 A√ A√ /
a.txt 重新命名檔案 / / × × × × × × × /
/A 刪除資料夾 × × × × × × × × × × /
a.txt 刪除檔案 × × × × × × × × × × /
/A,a.txt 回收站清除 / / / / / / / / / / A×a×

符號解釋:√:可以操作,×:不可以操作,/:互相不影響

整體解釋:例如第一行,意思是:對於A這個資料夾,當第一個人進行新建操作的時候,其他人同時進行新建、上傳、移動檔案、複製檔案、重新命名檔案、刪除檔案是允許的,移動資料夾、複製資料夾、重新命名資料夾、刪除資料夾是不允許的,回收站清除和新建操作是互不影響的。

思考和調研

分散式鎖常見的三種實現方式:資料庫、zookeeper/etcd(臨時有序節點)、redis(setnx/lua指令碼),各有千秋。

資料庫實現分散式鎖

實現

原理簡單易實現,建立一張lock表,儲存鎖定的資源、上鎖物件、獲取鎖的資源、獲取鎖時間等,獲取鎖時查詢該資源是否存在記錄,存在且未過失效時間則獲取鎖失敗,不存在則插入一條資料並且獲取鎖成功;釋放鎖則更簡單,刪除鎖資料即可。

缺點

  • 釋放鎖刪除資料時,會出現死鎖情況

優點

  • 實現簡單

zookeeper/etcd實現分散式鎖

詳見zookeeper總結

redis實現分散式鎖

詳見Redis總結

分散式資料夾鎖實現過程

基於開文處所列情況,要覆蓋所有複雜情況很難,但是實現基本的資料夾鎖是必須的,故選擇了redis+lua指令碼,具體程式碼如下

java獲取鎖工具類

/**
 * redis工具類
 */
public class RedisLockUtils {

    static final Long SUCCESS = 1L;
    static final String LOCKED_HASH = "cs:lockedHashKey";
    static final String GET_LOCK_LUA_RESOURCE = "/lua/getFileLock.lua";
    static final String RELEASE_LOCK_LUA_RESOURCE = "/lua/releaseFileLock.lua";
    static final Logger LOG = LoggerFactory.getLogger(RedisLockUtils.class);
    
    /**
     * 獲取資料夾鎖
     * @param redisTemplate
     * @param lockProjectId
     * @param lockKey
     * @param requestValue
     * @param expireTime 單位:秒
     * @return
     */
    public static boolean getFileLock(RedisTemplate redisTemplate, Long lockProjectId, String lockKey, String requestValue, Integer expireTime) {

        LOG.info("start run lua script,{{}} start request lock",lockKey);
        long start = System.currentTimeMillis();
        DefaultRedisScript<String> luaScript =new DefaultRedisScript<>();
        luaScript.setLocation(new ClassPathResource(GET_LOCK_LUA_RESOURCE));
        luaScript.setResultType(String.class);

        Object result = redisTemplate.execute(
                luaScript,
                Arrays.asList(lockKey, LOCKED_HASH + lockProjectId),
                requestValue,
                String.valueOf(expireTime),
                String.valueOf(System.currentTimeMillis())
        );
        boolean getLockStatus = SUCCESS.equals(result);

        LOG.info("{{}} cost time {} ms,request lock result:{}",lockKey,(System.currentTimeMillis()-start), getLockStatus);
        return getLockStatus;
    }

    /**
     * 釋放資料夾鎖
     * @param redisTemplate
     * @param lockProjectId
     * @param lockKey
     * @param requestValue
     * @return
     */
    public static boolean releaseFileLock(RedisTemplate redisTemplate, Long lockProjectId, String lockKey, String requestValue) {

        DefaultRedisScript<String> luaScript =new DefaultRedisScript<>();
        luaScript.setLocation(new ClassPathResource(RELEASE_LOCK_LUA_RESOURCE));
        luaScript.setResultType(String.class);

        Object result = redisTemplate.execute(
                luaScript,
                Arrays.asList(lockKey, LOCKED_HASH + lockProjectId),
                requestValue
        );
        boolean releaseLockStatus = SUCCESS.equals(result);

        LOG.info("{{}}release lock result:{}", lockKey, releaseLockStatus);
        return releaseLockStatus;
    }

}

lua指令碼

獲取資料夾鎖

入參說明

requestKey為請求鎖的路徑,requestValue為請求鎖的value,應為請求鎖時生成的UUID,確保解鎖人只能為上鎖人,lockedKeys為存放所有鎖的雜湊表的key,這裡用常量加專案id的方式,確保一個專案的所有鎖存在一個雜湊表裡面,expireTime為鎖的過期時間,nowTime為當前時間,由於lua腳本里面獲取當前時間消耗效能且獲取的是redis伺服器上的當前時間,可能不準確。

思路說明

首先,通過GET key判斷是否有人正在操作這個資料夾,若有人在操作則直接返回0(獲取鎖失敗),否則獲取存放該專案鎖的雜湊表裡面的所有key,遍歷所有key,通過lua指令碼的string.find函式對比該key和請求的key是否存在包含或被包含關係,若存在包含關係且未失效,則返回0(獲取鎖失敗),否則則可獲取鎖,設定key和過期時間及存入雜湊表(雜湊表記憶體放請求鎖的key和請求時間),最後返回1(獲取鎖成功)。

例如請求上圖中專案下的C資料夾的鎖,請求路徑為:專案/A/C,當另一個人想操作D資料夾,請求路徑為:專案/A/C/D,此時查詢到儲存這個專案所有鎖定key的雜湊表,裡面包含專案/A/C這個key,這兩個key通過lua函式string.find發現專案/A/C/D包含專案/A/C,且未到過期時間,則獲取鎖失敗,否則獲取鎖成功。

local requestKey=KEYS[1]
local lockedKeys=KEYS[2]
local requestValue=ARGV[1]
local expireTime=ARGV[2]
local nowTime=ARGV[3]
if redis.call('get',requestKey)
then
    return 0
end
local lockedHash = redis.call('hkeys',lockedKeys)
for i=1, #lockedHash do
    if string.find(requestKey,lockedHash[i]) or string.find(lockedHash[i],requestKey)
    then
        local lockTime = redis.call('hget',lockedKeys,lockedHash[i])
        if (nowTime-lockTime) >= expireTime * 1000
        then
            redis.call('hdel',lockedKeys,lockedHash[i])
        else
            return 0
        end
    end
end
redis.call('set',requestKey,requestValue)
redis.call('expire',requestKey,expireTime)
redis.call('hset',lockedKeys,requestKey,nowTime)
return 1

釋放資料夾鎖

入參說明

requestKey為請求鎖的路徑,requestValue為請求鎖的value,應為請求鎖時生成的UUID,確保解鎖人只能為上鎖人,lockedKeys為存放所有鎖的雜湊表的key,這裡用常量加專案id的方式,確保一個專案的所有鎖存在一個雜湊表裡面。

local requestKey=KEYS[1]
local lockedKeys=KEYS[2]
local requestValue=ARGV[1]
if redis.call('get', requestKey) == requestValue
then
    redis.call('hdel', lockedKeys,requestKey)
    return redis.call('del',requestKey)
else
    return 0
end

優點

  1. 靈活,鎖定的範圍可以隨requestKey變化而變化
  2. 效能不錯,經測試除了第一次lua指令碼未快取耗時較長,第二次之後則在10ms左右可得到請求結果

缺點

  1. 可靠性依賴redis
  2. 不是可重入鎖
  3. 維護成本較高,需熟知redis的5種資料結構及lua指令碼

總結

通過單元自測和測試環境測試基本可以確保多數情況下的多使用者併發操作檔案只有一人能進行有效操作,保證了資料的安全性。經過這次實踐,對分散式鎖有了更深入的瞭解。

更多資訊可以關注我的個人部落格:逸竹小站或逸竹小站