一、問題描述  

　　某天A君突然發現自己的介面請求量突然漲到之前的10倍，沒多久該介面幾乎不可使用，並引發連鎖反應導致整個系統崩潰。如何應對這種情況呢？生活給了我們答案：比如老式電閘都安裝了保險絲，一旦有人使用超大功率的裝置，保險絲就會燒斷以保護各個電器不被強電流給燒壞。同理我們的介面也需要安裝上“保險絲”，以防止非預期的請求對系統壓力過大而引起的系統癱瘓，當流量過大時，可以採取拒絕或者引流等機制。 

二、常用的限流演算法

      常用的限流演算法有兩種：漏桶演算法和令牌桶演算法，這篇博文介紹得比較清晰（過載保護演算法淺析）。

      漏桶演算法思路很簡單，請求先進入到漏桶裡，漏桶以一定的速度出水，當水請求過大會直接溢位，可以看出漏桶演算法能強行限制資料的傳輸速率。

圖1 漏桶演算法示意圖

      對於很多應用場景來說，除了要求能夠限制資料的平均傳輸速率外，還要求允許某種程度的突發傳輸。這時候漏桶演算法可能就不合適了，令牌桶演算法更為適合。如圖2所示，令牌桶演算法的原理是系統會以一個恆定的速度往桶裡放入令牌，而如果請求需要被處理，則需要先從桶裡獲取一個令牌，當桶裡沒有令牌可取時，則拒絕服務。

圖2 令牌桶演算法示意圖

三、限流工具類RateLimiter

 　　google開源工具包guava提供了限流工具類RateLimiter，該類基於“令牌桶演算法”，非常方便使用。該類的介面描述請參考：RateLimiter介面描述

RateLimiter 使用Demo

package ratelimite;

import com.google.common.util.concurrent.RateLimiter;
 
public class RateLimiterDemo {
    public static void main(String[] args) {
    	testNoRateLimiter();
    	testWithRateLimiter();
    }
 
    public static void testNoRateLimiter() {
    	Long start = System.currentTimeMillis();
        for (int i = 0; i < 10; i++) {
            System.out.println("call execute.." + i);
            
        }
        Long end = System.currentTimeMillis();
        
        System.out.println(end - start);
        
    }
    
    public static void testWithRateLimiter() {
    	Long start = System.currentTimeMillis();
        RateLimiter limiter = RateLimiter.create(10.0); // 每秒不超過10個任務被提交
        for (int i = 0; i < 10; i++) {
            limiter.acquire(); // 請求RateLimiter, 超過permits會被阻塞
            System.out.println("call execute.." + i);
            
        }
        Long end = System.currentTimeMillis();
        
        System.out.println(end - start);
        
    }
    
}
 
 

四 Guava併發：ListenableFuture與RateLimiter示例

        ListenableFuture顧名思義就是可以監聽的Future，它是對java原生Future的擴充套件增強。我們知道Future表示一個非同步計算任務，當任務完成時可以得到計算結果。如果我們希望一旦計算完成就拿到結果展示給使用者或者做另外的計算，就必須使用另一個執行緒不斷的查詢計算狀態。這樣做，程式碼複雜，而且效率低下。使用ListenableFuture Guava幫我們檢測Future是否完成了，如果完成就自動呼叫回撥函式，這樣可以減少併發程式的複雜度。

        推薦使用第二種方法，因為第二種方法可以直接得到Future的返回值，或者處理錯誤情況。本質上第二種方法是通過調動第一種方法實現的，做了進一步的封裝。

另外ListenableFuture還有其他幾種內建實現：

1. SettableFuture：不需要實現一個方法來計算返回值，而只需要返回一個固定值來做為返回值，可以通過程式設定此Future的返回值或者異常資訊

2. CheckedFuture： 這是一個繼承自ListenableFuture介面，他提供了checkedGet()方法，此方法在Future執行發生異常時，可以丟擲指定型別的異常。

    RateLimiter類似於JDK的訊號量Semphore，他用來限制對資源併發訪問的執行緒數，本文介紹RateLimiter使用

程式碼示例