I-第五章：（1）Hystrix 斷路器

阿新 • • 發佈：2022-03-13

一、概述

1、分散式系統面臨的問題

複雜分散式體系結構中的應用程式有數十個依賴關係，每個依賴關係在某些時候將不可避免地失敗。

服務雪崩

多個微服務之間呼叫的時候，假設微服務A呼叫微服務B和微服務C，微服務B和微服務C又呼叫其它的微服務，這就是所謂的“扇出”。如果扇出的鏈路上某個微服務的呼叫響應時間過長或者不可用，對微服務A的呼叫就會佔用越來越多的系統資源，進而引起系統崩潰，所謂的“雪崩效應”.

對於高流量的應用來說，單一的後端依賴可能會導致所有伺服器上的所有資源都在幾秒鐘內飽和。比失敗更糟糕的是，這些應用程式還可能導致服務之間的延遲增加，備份佇列，執行緒和其他系統資源緊張，導致整個系統發生更多的級聯故障。這些都表示需要對故障和延遲進行隔離和管理，以便單個依賴關係的失敗，不能取消整個應用程式或系統。

備註：一般情況對於服務依賴的保護主要有3中解決方案：

（1）熔斷模式：這種模式主要是參考電路熔斷，如果一條線路電壓過高，保險絲會熔斷，防止火災。放到我們的系統中，如果某個目標服務呼叫慢或者有大量超時，此時，熔斷該服務的呼叫，對於後續呼叫請求，不在繼續呼叫目標服務，直接返回，快速釋放資源。如果目標服務情況好轉則恢復呼叫。

（2）隔離模式：這種模式就像對系統請求按型別劃分成一個個小島的一樣，當某個小島被火燒光了，不會影響到其他的小島。例如可以對不同型別的請求使用執行緒池來資源隔離，每種型別的請求互不影響，如果一種型別的請求執行緒資源耗盡，則對後續的該型別請求直接返回，不再呼叫後續資源。這種模式使用場景非常多，例如將一個服務拆開，對於重要的服務使用單獨伺服器來部署，再或者公司最近推廣的多中心。

（3）限流模式：上述的熔斷模式和隔離模式都屬於出錯後的容錯處理機制，而限流模式則可以稱為預防模式。限流模式主要是提前對各個型別的請求設定最高的QPS閾值，若高於設定的閾值則對該請求直接返回，不再呼叫後續資源。這種模式不能解決服務依賴的問題，只能解決系統整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應。

2、Hystrix 是什麼

Hystrix是一個用於處理分散式系統的延遲和容錯的開源庫，在分散式系統裡，許多依賴不可避免的會呼叫失敗，比如超時、異常等，Hystrix能夠保證在一個依賴出問題的情況下，不會導致整體服務失敗，避免級聯故障，以提高分散式系統的彈性。

“斷路器”本身是一種開關裝置，當某個服務單元發生故障之後，通過斷路器的故障監控（類似熔斷保險絲），向呼叫方返回一個符合預期的、可處理的備選響應（FallBack），而不是長時間的等待或者丟擲呼叫方無法處理的異常

，這樣就保證了服務呼叫方的執行緒不會被長時間、不必要地佔用，從而避免了故障在分散式系統中的蔓延，乃至雪崩。

3、Hystrix 能幹嘛

服務熔斷

備註：熔斷模式：這種模式主要是參考電路熔斷，如果一條線路電壓過高，保險絲會熔斷，防止火災。放到我們的系統中，如果某個目標服務呼叫慢或者有大量超時，此時，熔斷該服務的呼叫，對於後續呼叫請求，不在繼續呼叫目標服務，直接返回，快速釋放資源。如果目標服務情況好轉則恢復呼叫。

服務降級

備註：Hystrix服務降級，其實就是執行緒池中單個執行緒故障處理，防止單個執行緒請求時間太長，導致資源長期被佔有而得不到釋放，從而導致執行緒池被快速佔用完，導致服務崩潰。 Hystrix能解決如下問題：

請求超時降級，執行緒資源不足降級，降級之後可以返回自定義資料；
執行緒池隔離降級，分散式服務可以針對不同的服務使用不同的執行緒池，從而互不影響；
自動觸發降級與恢復；
實現請求快取和請求合併；

服務限流

備註：限流模式主要是提前對各個型別的請求設定最高的QPS閾值，若高於設定的閾值則對該請求直接返回，不再呼叫後續資源。這種模式不能解決服務依賴的問題，只能解決系統整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應。

接近實時的監控

4、官網資料

https://github.com/Netflix/Hystrix/wiki/How-To-Use

二、服務熔斷

1、服務熔斷是什麼

服務熔斷

熔斷機制是應對雪崩效應的一種微服務鏈路保護機制。當扇出鏈路的某個微服務不可用或者響應時間太長時，會進行服務的降級，進而熔斷該節點微服務的呼叫，快速返回"錯誤"的響應資訊。當檢測到該節點微服務呼叫響應正常後恢復呼叫鏈路。在SpringCloud框架裡熔斷機制通過Hystrix實現。Hystrix會監控微服務間呼叫的狀況，當失敗的呼叫到一定閾值，預設是5秒內20次呼叫失敗就會啟動熔斷機制。熔斷機制的註解是@HystrixCommand。

2、新建熔斷測試工程

參考microservicecloud-provider-dept-8001，新建microservicecloud-provider-dept-hystrix-8001

3、新增Hystrix依賴

    <dependencies>
        <!--  hystrix -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix</artifactId>
        </dependency>
        <dependency><!-- 引入自己定義的api通用包，可以使用Dept部門Entity -->
            <groupId>com.njf.springcloud</groupId>
            <artifactId>microservicecloud-api</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
        </dependency>
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>druid</artifactId>
        </dependency>
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-core</artifactId>
        </dependency>
        <dependency>
            <groupId>org.mybatis.spring.boot</groupId>
            <artifactId>mybatis-spring-boot-starter</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-jetty</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
        </dependency>
        <!-- 修改後立即生效，熱部署 -->
        <dependency>
            <groupId>org.springframework</groupId>
            <artifactId>springloaded</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
        </dependency>

        <!-- 將微服務provider側註冊進Eureka -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-eureka</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-config</artifactId>
        </dependency>

        <!-- actuator監控資訊完善 -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
    </dependencies>

4、修改YML配置內容

server:
  port: 8001

mybatis:
  config-location: classpath:mybatis/mybatis.cfg.xml        # mybatis配置檔案所在路徑
  type-aliases-package: com.njf.springcloud.entities        # 所有Entity別名類所在包
  mapper-locations:
    - classpath:mybatis/mapper/**/*.xml                     # mapper對映檔案

spring:
  application:
    name: microservicecloud-dept                            #服務名（重要！！！）
  datasource:
    type: com.alibaba.druid.pool.DruidDataSource            # 當前資料來源操作型別
    driver-class-name: com.mysql.jdbc.Driver                # mysql驅動包
    url: jdbc:mysql://localhost:3306/cloudDB01?useSSL=false              # 資料庫名稱
    username: root
    password: root
    dbcp2:
      min-idle: 5                                           # 資料庫連線池的最小維持連線數
      initial-size: 5                                       # 初始化連線數
      max-total: 5                                          # 最大連線數
      max-wait-millis: 200                                  # 等待連接獲取的最大超時時間

eureka:
  client: #客戶端註冊進eureka服務列表內
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
  instance:
    instance-id: microservicecloud-dept8001-hystrix   #自定義Hystrix相關的服務名稱資訊
    prefer-ip-address: true     #訪問路徑可以顯示IP地址

info:
  app.name: njf-microservicecloud
  company.name: www.njf.com
  build.artifactId: $project.artifactId$
  build.version: $project.version$

5、修改DeptController

@HystrixCommand報異常後如何處理

一旦呼叫服務方法失敗並丟擲了錯誤資訊後，會自動呼叫@HystrixCommand標註好的fallbackMethod呼叫類中的指定方法

@RestController
public class DeptController {
    @Autowired
    private DeptService service;

    @RequestMapping(value="/dept/get/{id}",method=RequestMethod.GET)
    @HystrixCommand(fallbackMethod = "processHystrix_Get")
    public Dept get(@PathVariable("id") Long id)
    {
        Dept dept =  this.service.get(id);
        if(null == dept)
        {
            throw new RuntimeException("該ID："+id+"沒有沒有對應的資訊");
        }
        return dept;
    }

    public Dept processHystrix_Get(@PathVariable("id") Long id)
    {
        return new Dept().setDeptno(id)
                .setDname("該ID："+id+"沒有沒有對應的資訊,null--@HystrixCommand")
                .setDb_source("no this database in MySQL");
    }
}

6、修改主啟動類

修改主啟動類DeptProvider8001_Hystrix_App並新增新註解@EnableCircuitBreaker

@SpringBootApplication
@EnableEurekaClient    //本服務啟動後會自動註冊進eureka服務中
@EnableDiscoveryClient //服務發現
@EnableCircuitBreaker  //對hystrix熔斷機制的支援
public class DeptProvider8001_Hystrix_App {
    public static void main(String[] args) {
        SpringApplication.run(DeptProvider8001_Hystrix_App.class, args);
    }
}

7、測試

（1）3個Eureka先啟動

（2）主啟動類DeptProvider8001_Hystrix_App

（3）Consumer啟動microservicecloud-consumer-dept-80

（4）位址列測試正常情況：

異常情況：

如果對應的ID：123，資料庫裡面沒有這個記錄，我們報錯後統一返回。

三、服務降級

1、服務降級是什麼

整體資源快不夠了，忍痛將某些服務先關掉，待渡過難關，再開啟回來。

服務降級處理是在客戶端實現完成的，與服務端沒有關係。

2、修改 API 工程

修改microservicecloud-api工程，根據已經有的DeptClientService介面新建一個實現了FallbackFactory介面的類DeptClientServiceFallbackFactory

一定要在類上面新增@Component註解，大坑！！！

@Component
public class DeptClientServiceFallbackFactory implements FallbackFactory<DeptClientService> {
    @Override
    public DeptClientService create(Throwable cause) {
        return new DeptClientService() {
            @Override
            public Dept get(long id) {
                return new Dept().setDeptno(id)
                        .setDname("該ID："+id+"沒有沒有對應的資訊,Consumer客戶端提供的降級資訊,此刻服務Provider已經關閉")
                        .setDb_source("no this database in MySQL");

            }

            @Override
            public List<Dept> list() {
                return null;
            }

            @Override
            public boolean add(Dept dept) {
                return false;
            }
        };
    }
}

3、在客戶端指定fallbackFactory屬性

修改microservicecloud-api工程，DeptClientService介面在註解@FeignClient中新增fallbackFactory屬性值

@FeignClient(value = "MICROSERVICECLOUD-DEPT", fallbackFactory = DeptClientServiceFallbackFactory.class)
public interface DeptClientService {
    @RequestMapping(value = "/dept/get/{id}", method = RequestMethod.GET)
    public Dept get(@PathVariable("id") long id);

    @RequestMapping(value = "/dept/list", method = RequestMethod.GET)
    public List<Dept> list();

    @RequestMapping(value = "/dept/add", method = RequestMethod.POST)
    public boolean add(Dept dept);
}

4、安裝 API 模組

microservicecloud-api工程執行 mvn clean 和 mvn install 命令

5、修改客戶端的配置檔案，開啟Hystrix功能

microservicecloud-consumer-dept-feign工程修改YML

server:
  port: 80

feign:
  hystrix:
    enabled: true

eureka:
  client:
    register-with-eureka: false
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

6、測試

（1）啟動Eureka叢集，3個Eureka先啟動

（2）微服務microservicecloud-provider-dept-8001啟動

（3）microservicecloud-consumer-dept-feign啟動

（4）正常訪問測試

（5）故意關閉微服務microservicecloud-provider-dept-8001

（6）客戶端自己呼叫提示

此時服務端provider已經down了，但是我們做了服務降級處理，讓客戶端在服務端不可用時也會獲得提示資訊而不會掛起耗死伺服器

四、服務熔斷與服務降級

服務熔斷：

一般是某個服務故障或者異常引起，類似現實世界中的"保險絲"，當某個異常條件被觸發，直接熔斷整個服務，而不是一直等到此服務超時。

服務降級：

所謂降級，一般是從整體負荷考慮。就是當某個服務熔斷之後，伺服器將不再被呼叫，此時客戶端可以自己準備一個本地的 fallback 回撥，返回一個預設值。這樣做，雖然服務水平下降，但好歹可用，比直接掛掉要強。

五、服務監控hystrixDashboard

1、概述

除了隔離依賴服務的呼叫以外，Hystrix還提供了準實時的呼叫監控（Hystrix Dashboard），Hystrix會持續地記錄所有通過Hystrix發起的請求的執行資訊，並以統計報表和圖形的形式展示給使用者，包括每秒執行多少請求多少成功，多少失敗等。Netflix通過hystrix-metrics-event-stream專案實現了對以上指標的監控。Spring Cloud也提供了Hystrix Dashboard的整合，對監控內容轉化成視覺化介面。

2、步驟

（1）建立監控服務

新建工程 microservicecloud-consumer-hystrix-dashboard

（2）新增POM依賴

    <dependencies>
        <!-- 自己定義的api -->
        <dependency>
            <groupId>com.njf.springcloud</groupId>
            <artifactId>microservicecloud-api</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <!-- 修改後立即生效，熱部署 -->
        <dependency>
            <groupId>org.springframework</groupId>
            <artifactId>springloaded</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
        </dependency>
        <!-- Ribbon相關 -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-eureka</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-ribbon</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-config</artifactId>
        </dependency>
        <!-- feign相關 -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-feign</artifactId>
        </dependency>
        <!-- hystrix和 hystrix-dashboard相關-->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
        </dependency>
    </dependencies>

（3）設定YML配置資訊

server:
  port: 9001

（5）設定主啟動類

主啟動類改名+新註解@EnableHystrixDashboard

@SpringBootApplication
@EnableHystrixDashboard
public class DeptConsumer_DashBoard_App
{
    public static void main(String[] args)
    {
        SpringApplication.run(DeptConsumer_DashBoard_App.class,args);
    }
}

（6）所有Provider微服務提供類(8001/8002/8003)都需要監控依賴配置

   <!-- actuator監控資訊完善 -->
   <dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-actuator</artifactId>
   </dependency>

（7）啟動監控服務

啟動microservicecloud-consumer-hystrix-dashboard該微服務監控消費端

http://localhost:9001/hystrix

（8）啟動3個Eureka叢集

（9）啟動要監控的服務提供者

啟動microservicecloud-provider-dept-hystrix-8001

訪問 http://localhost:8001/dept/get/1 檢視是否啟動成功

訪問 http://localhost:8001/hystrix.stream

（10）啟動的相關微服務工程

我們現在用9001監控 8001的服務提供者。

3、監控測試

觀察監控視窗，填寫監控地址

（1）Delay：該引數用來控制伺服器上輪詢監控資訊的延遲時間，預設為2000毫秒，可以通過配置該屬性來降低客戶端的網路和CPU消耗。

（2）Title：該引數對應了頭部標題Hystrix Stream之後的內容，預設會使用具體監控例項的URL，可以通過配置該資訊來展示更合適的標題。

多次重新整理http://localhost:8001/dept/get/1，然後檢視監控結果

上面的圖如何看？分別代表什麼意思

7色1圈1線

實心圓：共有兩種含義。它通過顏色的變化代表了例項的健康程度，它的健康度從綠色<黃色<橙色<紅色遞減。該實心圓除了顏色的變化之外，它的大小也會根據例項的請求流量發生變化，流量越大該實心圓就越大。所以通過該實心圓的展示，就可以在大量的例項中快速的發現故障例項和高壓力例項。

曲線：用來記錄2分鐘內流量的相對變化，可以通過它來觀察到流量的上升和下降趨勢。

詳細說明：

複雜的服務監控圖