熔斷器實現

zRPC 中熔斷器的實現參考了Google Sre 過載保護演算法，該演算法的原理如下：

• 請求數量 (requests)：呼叫方發起請求的數量總和

• 請求接受數量 (accepts)：被呼叫方正常處理的請求數量

在正常情況下，這兩個值是相等的，隨著被呼叫方服務出現異常開始拒絕請求，請求接受數量 (accepts) 的值開始逐漸小於請求數量 (requests)，這個時候呼叫方可以繼續傳送請求，直到 requests = K * accepts，一旦超過這個限制，熔斷器就回開啟，新的請求會在本地以一定的概率被拋棄直接返回錯誤，概率的計算公式如下：

通過修改演算法中的 K(倍值)，可以調節熔斷器的敏感度，當降低該倍值會使自適應熔斷演算法更敏感，當增加該倍值會使得自適應熔斷演算法降低敏感度，舉例來說，假設將呼叫方的請求上限從 requests = 2 * acceptst 調整為 requests = 1.1 * accepts 那麼就意味著呼叫方每十個請求之中就有一個請求會觸發熔斷

程式碼路徑為 go-zero/core/breaker

type googleBreaker struct {
    k     float64  // 倍值 預設1.5
    stat  *collection.RollingWindow // 滑動時間視窗，用來對請求失敗和成功計數
    proba *mathx.Proba // 動態概率
}

自適應熔斷演算法實現

func (b *googleBreaker) accept() error {
    accepts, total := b.history()  // 請求接受數量和請求總量
    weightedAccepts := b.k * float64(accepts)
  // 計算丟棄請求概率
    dropRatio := math.Max(0, (float64(total-protection)-weightedAccepts)/float64(total+1))
    if dropRatio <= 0 {
        return nil
    }
    // 動態判斷是否觸發熔斷
    if b.proba.TrueOnProba(dropRatio) {
        return ErrServiceUnavailable
    }

    return nil
}

每次發起請求會呼叫 doReq 方法，在這個方法中首先通過 accept 效驗是否觸發熔斷，acceptable 用來判斷哪些 error 會計入失敗計數，定義如下：

func Acceptable(err error) bool {
    switch status.Code(err) {
    case codes.DeadlineExceeded, codes.Internal, codes.Unavailable, codes.DataLoss: // 異常請求錯誤
        return false
    default:
        return true
    }
}

如果請求正常則通過 markSuccess 把請求數量和請求接受數量都加一，如果請求不正常則只有請求數量會加一

func (b *googleBreaker) doReq(req func() error, fallback func(err error) error, acceptable Acceptable) error {
    // 判斷是否觸發熔斷
  if err := b.accept(); err != nil {
        if fallback != nil {
            return fallback(err)
        } else {
            return err
        }
    }

    defer func() {
        if e := recover(); e != nil {
            b.markFailure()
            panic(e)
        }
    }()

  // 執行真正的呼叫
    err := req()
  // 正常請求計數
    if acceptable(err) {
        b.markSuccess()
    } else {
    // 異常請求計數
        b.markFailure()
    }

    return err
}