今天觀看QCon大會講述了阿里線上管控體系，其中主要使用了令牌桶演算法來實現限流的目的。表示非常好奇，故此學習一下什麼是令牌桶演算法。

1. 簡介

令牌桶演算法最初來源於計算機網路。在網路傳輸資料時，為了防止網路擁塞，需限制流出網路的流量，使流量以比較均勻的速度向外傳送。令牌桶演算法就實現了這個功能，可控制傳送到網路上資料的數目，並允許突發資料的傳送。

令牌桶演算法是網路流量整形（Traffic Shaping）和速率限制（Rate Limiting）中最常使用的一種演算法。典型情況下，令牌桶演算法用來控制傳送到網路上的資料的數目，並允許突發資料的傳送。

大小固定的令牌桶可自行以恆定的速率源源不斷地產生令牌。如果令牌不被消耗，或者被消耗的速度小於產生的速度，令牌就會不斷地增多，直到把桶填滿

傳送到令牌桶的資料包需要消耗令牌。不同大小的資料包，消耗的令牌數量不一樣。

令牌桶這種控制機制基於令牌桶中是否存在令牌來指示什麼時候可以傳送流量。令牌桶中的每一個令牌都代表一個位元組。如果令牌桶中存在令牌，則允許傳送流量；而如果令牌桶中不存在令牌，則不允許傳送流量。因此，如果突發門限被合理地配置並且令牌桶中有足夠的令牌，那麼流量就可以以峰值速率傳送。

2.演算法過程

演算法描述：

• 假如使用者配置的平均傳送速率為r，則每隔1/r秒一個令牌被加入到桶中（每秒會有r個令牌放入桶中）；

• 假設桶中最多可以存放b個令牌。如果令牌到達時令牌桶已經滿了，那麼這個令牌會被丟棄；

• 當一個n個位元組的資料包到達時，就從令牌桶中刪除n個令牌（不同大小的資料包，消耗的令牌數量不一樣），並且資料包被髮送到網路；

• 如果令牌桶中少於n個令牌，那麼不會刪除令牌，並且認為這個資料包在流量限制之外（n個位元組，需要n個令牌。該資料包將被快取或丟棄）；

• 演算法允許最長b個位元組的突發，但從長期執行結果看，資料包的速率被限制成常量r。對於在流量限制外的資料包可以以不同的方式處理：（1）它們可以被丟棄；（2）它們可以排放在佇列中以便當令牌桶中累積了足夠多的令牌時再傳輸；（3）它們可以繼續傳送，但需要做特殊標記，網路過載的時候將這些特殊標記的包丟棄。

注意：

令牌桶演算法不能與另外一種常見演算法漏桶演算法

3.Java實現

我們可以使用Guava 的 RateLimiter 來實現基於令牌桶的流控，RateLimiter 令牌桶演算法是單桶實現。RateLimiter 對簡單的令牌桶演算法做了一些工程上的優化，具體的實現是 SmoothBursty。需要注意的是，RateLimiter 的另一個實現SmoothWarmingUp，就不是令牌桶了，而是漏桶演算法。也許是出於簡單起見，RateLimiter 中的時間視窗能且僅能為 1s。

SmoothBursty 有一個可以放 N 個時間視窗產生的令牌的桶，系統空閒的時候令牌就一直攢著，最好情況下可以扛 N 倍於限流值的高峰而不影響後續請求。RateLimite允許某次請求拿走超出剩餘令牌數的令牌，但是下一次請求將為此付出代價，一直等到令牌虧空補上，並且桶中有足夠本次請求使用的令牌為止。當某次請求不能得到所需要的令牌時，這時涉及到一個權衡，是讓前一次請求乾等到令牌夠用才走掉呢，還是讓它先走掉後面的請求等一等呢？Guava 的設計者選擇的是後者，先把眼前的活幹了，後面的事後面再說。