4種經典限流演算法
在計算機網路中，限流就是控制網路介面傳送或接收請求的速率，它可防止DoS攻擊和限制Web爬蟲。
限流，也稱流量控制。是指系統在面臨高併發，或者大流量請求的情況下，限制新的請求對系統的訪問，從而保證系統的穩定性。
常見的限流演算法：
固定視窗限流演算法
首先維護一個計數器，將單位時間段當做一個視窗，計數器記錄這個視窗接收請求的次數。
- 當次數少於限流閥值，就允許訪問，並且計數器+1
- 當次數大於限流閥值，就拒絕訪問。
- 當前的時間視窗過去之後，計數器清零。
假設單位時間是1秒，限流閥值為3。在單位時間1秒內，每來一個請求,計數器就加1，如果計數器累加的次數超過限流閥值3，後續的請求全部拒絕。等到1s結束後，計數器清0，重新開始計數。如下圖：
/**
*固定視窗時間演算法
*@return
*/
booleanfixedWindowsTryAcquire(){
longcurrentTime=System.currentTimeMillis();//獲取系統當前時間
if(currentTime-lastRequestTime>windowUnit){//檢查是否在時間視窗內
counter=0;//計數器清0
lastRequestTime=currentTime;//開啟新的時間視窗
}
if(counter<threshold){//小於閥值
counter++;//計數器加1
returntrue;
}
returnfalse;
}
=======》》》》》
這種演算法有一個很明顯的臨界問題
========》》》》
滑動視窗限流演算法
滑動視窗限流解決固定視窗臨界值的問題。它將單位時間週期分為n個小週期，分別記錄每個小週期內介面的訪問次數，並且根據時間滑動刪除過期的小週期。
假設1s內的限流閥值還是5個請求，0.8~1.0s內（比如0.9s的時候）來了5個請求，落在黃色格子裡。時間過了1.0s這個點之後，又來5個請求，落在紫色格子裡。如果是固定視窗演算法，是不會被限流的
TIPS:當滑動視窗的格子週期劃分的越多，那麼滑動視窗的滾動就越平滑，限流的統計就會越精確。
/**
*單位時間劃分的小週期（單位時間是1分鐘，10s一個小格子視窗，一共6個格子）
*/
privateintSUB_CYCLE=10;
/**
*每分鐘限流請求數
*/
privateintthresholdPerMin=100;
/**
*計數器,k-為當前視窗的開始時間值秒，value為當前視窗的計數
*/
privatefinalTreeMap<Long,Integer>counters=newTreeMap<>();
/**
*滑動視窗時間演算法實現
*/
booleanslidingWindowsTryAcquire(){
longcurrentWindowTime=LocalDateTime.now().toEpochSecond(ZoneOffset.UTC)/SUB_CYCLE*SUB_CYCLE;//獲取當前時間在哪個小週期視窗
intcurrentWindowNum=countCurrentWindow(currentWindowTime);//當前視窗總請求數
//超過閥值限流
if(currentWindowNum>=thresholdPerMin){
returnfalse;
}
//計數器+1
counters.get(currentWindowTime)++;
returntrue;
}
/**
*統計當前視窗的請求數
*/
privateintcountCurrentWindow(longcurrentWindowTime){
//計算視窗開始位置
longstartTime=currentWindowTime-SUB_CYCLE*(60s/SUB_CYCLE-1);
intcount=0;
//遍歷儲存的計數器
Iterator<Map.Entry<Long,Integer>>iterator=counters.entrySet().iterator();
while(iterator.hasNext()){
Map.Entry<Long,Integer>entry=iterator.next();
//刪除無效過期的子視窗計數器
if(entry.getKey()<startTime){
iterator.remove();
}else{
//累加當前視窗的所有計數器之和
count=count+entry.getValue();
}
}
returncount;
}
漏桶演算法：
原理：往漏桶中以任意速率流入水，以固定的速率流出水。當水超過桶的容量時，會被溢位，也就是被丟棄。因為桶容量是不變的，保證了整體的速率。
- 流入的水滴，可以看作是訪問系統的請求，這個流入速率是不確定的。
- 桶的容量一般表示系統所能處理的請求數。
- 如果桶的容量滿了，就達到限流的閥值，就會丟棄水滴（拒絕請求）
- 流出的水滴，是恆定過濾的，對應服務按照固定的速率處理請求。
/**
*每秒處理數（出水率）
*/
privatelongrate;
/**
*當前剩餘水量
*/
privatelongcurrentWater;
/**
*最後重新整理時間
*/
privatelongrefreshTime;
/**
*桶容量
*/
privatelongcapacity;
/**
*漏桶演算法
*@return
*/
booleanleakybucketLimitTryAcquire(){
longcurrentTime=System.currentTimeMillis();//獲取系統當前時間
longoutWater=(currentTime-refreshTime)/1000*rate;//流出的水量=(當前時間-上次重新整理時間)*出水率
longcurrentWater=Math.max(0,currentWater-outWater);//當前水量=之前的桶內水量-流出的水量
refreshTime=currentTime;//重新整理時間
//當前剩餘水量還是小於桶的容量，則請求放行
if(currentWater<capacity){
currentWater++;
returntrue;
}
//當前剩餘水量大於等於桶的容量，限流
returnfalse;
}
令牌桶演算法
令牌桶演算法原理：
- 有一個令牌管理員，根據限流大小，定速往令牌桶裡放令牌。
- 如果令牌數量滿了，超過令牌桶容量的限制，那就丟棄。
- 系統在接受到一個使用者請求時，都會先去令牌桶要一個令牌。如果拿到令牌，那麼就處理這個請求的業務邏輯；
- 如果拿不到令牌，就直接拒絕這個請求。
-
/**
*每秒處理數（放入令牌數量）
*/
privatelongputTokenRate;
/**
*最後重新整理時間
*/
privatelongrefreshTime;
/**
*令牌桶容量
*/
privatelongcapacity;
/**
*當前桶內令牌數
*/
privatelongcurrentToken=0L;
/**
*漏桶演算法
*@return
*/
booleantokenBucketTryAcquire(){
longcurrentTime=System.currentTimeMillis();//獲取系統當前時間
longgenerateToken=(currentTime-refreshTime)/1000*putTokenRate;//生成的令牌=(當前時間-上次重新整理時間)*放入令牌的速率
currentToken=Math.min(capacity,generateToken+currentToken);//當前令牌數量=之前的桶內令牌數量+放入的令牌數量
refreshTime=currentTime;//重新整理時間
//桶裡面還有令牌，請求正常處理
if(currentToken>0){
currentToken--;//令牌數量-1
returntrue;
}
returnfalse;
}