1. 程式人生 > >使用Hystrix進行微服務降級管理

使用Hystrix進行微服務降級管理

微服務架構 分享圖片 關於 出現 嚴重 group 簡單的 入門 註釋

前言:目前我們的項目是微服務架構,基於dubbo框架,服務之間的調用是通過rpc調用的。剛開始沒有任何問題,項目運行健康、良好。可是過了一段時間,線上總有人反應查詢訂單失敗,等過了一段時間才能查到。這是怎麽回事呢?打開後臺的日誌一看出現了一些RpcException和TimeOutException,原來是遠程調用超時了,可能某個服務在請求的高發期訪問數據庫異常,IO阻塞,返回接口異常了。後來這個問題越來越頻繁,如何解決這個棘手的問題呢?

本篇博客的目錄

一:Hystrix是什麽?

1.1:基本解釋

Hystrix最開始由Netflix(看過美劇的都知道,它是一個美劇影視制作的巨頭公司)開源的,後來由Spring Cloud Hystrix基於這款框架實現了斷路器、線程隔離等一系列服務保護功能,該框架的目標在於通過控制訪問遠程系統、服務和第三方庫的節點,從而延遲和故障提供更強大的容錯能力。hystrix具備服務降級、服務熔斷、線程和信號隔離、請求緩存、請求合並以及服務監控等強大功能。起到了微服務的保護機制,防止某個單元出現故障.從而引起依賴關系引發故障的蔓延,最終導致整個系統的癱瘓。

1.2:斷路器的概念

斷路器本身是一個開關裝置,用在電路上保護線路過載,當線路中有電器發生短路的時候。“斷路器”能夠及時切斷故障,防止發生過載、發熱甚至起火等嚴重後果。當分布式架構中,斷路器模式起到的作用也是類似的。當某個服務發生故障的時候,通過斷路器的故障監控向調用方返回一個錯誤響應,而不是長時間的線程掛機,無限等待。這樣就不會使線程因故障服務被長時間占用不釋放,避免了故障在分布式系統中的蔓延。如下圖是現實中的斷路器,它是一個開關裝置:

技術分享圖片

二:Hystrix解決超時問題

2.1:問題

假設我們前端提供了用戶查詢訂單的功能,首先請求映射到OrderController,控制器通過調用服務orderService獲取訂單信息,前端傳過來兩個參數:一個是訂單id,一個是用戶id,orderService需要通過用戶id調取用戶服務來獲取用戶的相關信息返回給訂單服務去組裝信息,假設這裏是通過http請求的,我們有一個單獨的工程叫做:userService部署在其他的服務器上。但是這個服務器宕機了,這時候訂單服務調取用戶信息就失敗了,然後查詢訂單整個請求就失敗了!由一個服務的宕機就導致整個查詢都失敗了,牽一發而動全身。流程見下圖:

技術分享圖片

2.2:使用Hystrix進行服務降級

2.2.1:引入hystrix依賴 這裏引入了spring-cloud-starter-netflix-hystrix,springboot的starter裏面整合了hystrix

    <properties>
        <java.version>1.8</java.version>
        <spring-cloud.version>Greenwich.SR1</spring-cloud.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
        </dependency>

        <dependency>
            <groupId>cn.hutool</groupId>
            <artifactId>hutool-all</artifactId>
            <version>4.5.1</version>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>${spring-cloud.version}</version>
                <type>pom</type>
                <scope>import
</scope> </dependency> </dependencies> </dependencyManagement>

2.2.2:模擬訂單請求

首先通過OrderController映射/order請求,獲取前端傳入的參數orderId和useId,然後調用orderDetailService方法,

@RestController
public class OrderController {

    @Resource
    private OrderService orderService;


    /**
     * 獲取訂單信息
     *
     * @param orderNo
     * @return
     */
    @PostMapping("/order")
    public ResultVo<OrderDetail> getOrderInfo(@RequestParam("orderId") Long orderNo, @RequestParam("userId") Long userId) {

        OrderDetail orderDetail = orderService.orderDetailService(orderNo, userId);
        ResultVo resultVo = new ResultVo<>();
        resultVo.setCode(100);
        resultVo.setMessage("請求成功");
        resultVo.setData(orderDetail);
        return resultVo;
    }
}

2.2.3:訂單服務調取其他服務

這裏引入了RestTemplate,它是一個spring封裝的http映射請求工具類,然後通過http請求訪問url = "http://192.168.80.153:8070/user/getUser"獲取用戶名,將值給訂單對象。不過假如在這其中發生了調用異常,請求用戶服務異常的話,那麽返回給前端就是一串空的訂單信息,導致用戶看到的訂單為空。在使用hystrix之後,可以用@HystrixCommand(fallbackMethod = "orderFallBack")註解,在fallbackMethod中指定回退的方法,這裏必須註意在@HystrixCommand上的方法其指定的回調方法必須和原方法的參數保持一致,這裏包括參數類型、參數個數、參數順序。我們在回調用法中模擬去查詢緩存數據,返回給訂單。有人又要問了,如果查詢緩存服務器再異常呢?不排除這種可能性。如果是這樣的話,依然可以使用@HystrixCommand註解在回調方法中,再指定其他的回調方法:

@Service
public class OrderService {
    @Autowired
    private RestTemplate restTemplate;
    /**
     * 根據訂單id獲取訂單詳情
     *
     * @param orderId
     * @param userId
     * @return
     */
    @HystrixCommand(fallbackMethod = "orderFallBack")
    public OrderDetail orderDetailService(Long orderId, Long userId) {

        if (Objects.isNull(orderId)) {
            return null;
        }

        OrderDetail orderDetail = OrderDBSource.getOrderDB().get(orderId);
        //調用user服務
        final String url = "http://192.168.80.153:8070/user/getUser";
        String userName = "";
        ResponseEntity<String> responseEntity = restTemplate.postForEntity(url, userId, String.class);
        String returnContent = responseEntity.getBody();
        if (Objects.nonNull(responseEntity) && StrUtil.isNotEmpty(returnContent)) {
            userName = returnContent;
        }
        if (ObjectUtil.isNotNull(orderDetail)){
            orderDetail.setUserName(userName);
        }
        return orderDetail;
    }
    /**
     * 異常調用的回調方法
     *
     * @return
     */
    public OrderDetail orderFallBack(Long orderId, Long userId) {
        OrderDetail orderDetail = OrderDBSource.getOrderCache().get(orderId);
        final String unknown = "未知用戶";
        orderDetail.setUserName(unknown);
        return orderDetail;
    }
}

2.3.4:模擬測試

為了方便測試,首先我們將請求服務暫時先註釋,然後用postman測試看正常的返回應該是這樣的,這裏使用了備註為數據庫獲取的訂單,表明它沒有走回調方法,因為這裏沒有訪問用戶url獲取用戶信息,程序可以正常訪問。我再放開

技術分享圖片

加上獲取用戶服務的鏈接,實際上用戶服務是無法訪問到的,訪問的話就會超時,超時會被hystrix捕捉到,然後走fallBack指定的方法,我們來測試一下,可以看到實際上走的是緩存中查詢到的訂單,可以看到用戶服務已經成功的降級了,降級後的訂單信息雖然是緩存獲取到的,可能會存在延時等問題(當然只要維護好緩存就可以避免這個問題)。但是比沒有任何數據帶來的用戶一點會更好!

技術分享圖片

三:Hystrix的流程

Hystrix實際上的工作原理是這樣的:通過command來解耦請求與返回操作,在具體的實例中就是,Hystrix會對依賴的服務進行觀察,通過command.toObservable調用返回一個觀察的對象,同時發起一個事件,然後用Subscriber對接受到的事件進行處理。在command命令發出請求後,它通過一系列的判斷,順序依次是緩存是否命中、斷路器是否打開、線程池是否占滿,然後它才會開始對我們編寫的代碼進行實際的請求依賴服務的處理,也就是Hystrix.run方法,如果在這其中任一節點出現錯誤或者拋出異常,它都會返回到fallback方法進行服務降級處理,當降級處理完成之後,它會將結果返回給,際的調用者,經過一系列流程處理的,它的具體工作流程如下:

技術分享圖片

四:總結

本篇博客講述了Hystrix是什麽?然後解釋了Hystrix如何進行服務降級處理以及簡單的處理流程,講到的內容是最為常用的功能,還有一些關於Hystrix的緩存、線程池的隔離技術等由於篇幅的原因,沒有詳細的講解到,不過作為一篇入門級的Hystrix教程博客是基本夠的。在實際的開發中,如何保持服務的健壯性、服務的可用性、盡量的減少bug,提升用戶體驗都是我們開發者的使命,這條優化和提升之路永遠沒有盡頭,go ahead!

參考資料《spring cloud微服務實戰》

*如果你在本篇博客中,有任何疑問,都可以添加java學習交流群:618626589

使用Hystrix進行微服務降級管理