1. 程式人生 > 程式設計 >Spring Cloud負載均衡及遠端呼叫實現詳解

Spring Cloud負載均衡及遠端呼叫實現詳解

負載均衡

使用微服務後,為了能夠承擔高併發的壓力,同一個服務可能會啟動多個例項。這時候消費者就需要負載均衡,把請求分散到各個例項。負載均衡主要有兩種設計:

服務端負載均衡客戶端負載均衡

對於傳統的分散式服務來說,大多使用服務端負載均衡。一般會使用Nginx或者ELB等工具作為負載均衡器,如下圖:

Spring Cloud負載均衡及遠端呼叫實現詳解

傳統負載均衡

而在Spring Cloud中,使用的是「客戶端負載均衡」的方式,使用「Ribbon」元件來實現客戶端的負載均衡。只要引入了微服務註冊中心依賴,就會自動引入Ribbon依賴。客戶端負載均衡原理如下圖:

Spring Cloud負載均衡及遠端呼叫實現詳解

客戶端負載均衡

Ribbon的原理

Ribbon利用了RestTemplate的攔截器(介面是ClientHttpRequestInterceptor)機制,在攔截器中實現的負載均衡。負載均衡的基本實現就是利用從「服務註冊中心」獲取可用的服務地址列表,然後通過一定演算法負載,決定使用哪一個服務地址來進行HTTP呼叫。

詳情可以檢視LoadBalancerInterceptor這個類,位於org.springframework.cloud.client.loadbalancer包下。

使用Ribbon

首先定義一下生產者「service-user」,我這裡使用容器啟動了多個生產者例項,每個例項具有不同的id,我的示例程式碼裡面啟動了兩個例項:

service-user-1
service-user-2

程式碼:

@RestController
@RequestMapping
public class HelloController {

  @Value("${spring.cloud.consul.discovery.instanceId}")
  private String instanceId;

  @GetMapping("hello")
  public String hello() {
    return String.format("hello,this is %s",instanceId);
  }
}

然後對於消費者「service-order」,可以使用Java宣告式註解的方式來使用Ribbon,只需要在消費者給RestTemplate型別的Bean配上一個@LoadBalanced就可以了。然後再配置一下負載均衡策略:

@Configuration
public class RibbonConfig {

  @Bean
  @LoadBalanced
  public RestTemplate ribbonRestTemplate(){
    return new RestTemplate();
  }

  @Bean
  public IRule ribbonRule() {
    return new RandomRule(); // 隨機負載均衡
  }
}

然後就可以直接使用自動注入的RestTemplate型別的Bean了:

@RestController
@RequestMapping
public class HelloController {

  @Autowired
  RestTemplate restTemplate;

  @GetMapping("/ribbon/service-user")
  public String ribbonService(){
    return restTemplate.getForObject("http://service-user/hello",String.class);
  }
}

這個時候訪問消費者的/ribbon/service-user,重新整理幾次,就會看到下面兩個隨機的響應:

hello,this is service-user-2
hello,this is service-user-1

負載均衡策略

檢視IRule介面的實現類,可以看到Ribbon的所有負載均衡策略,檢視各實現類頂部的註釋可以看到它的具體策略:

Spring Cloud負載均衡及遠端呼叫實現詳解

負載均衡器

  • RandomRule:隨機選擇;
  • RoundRobinRule:輪詢;
  • WeightedResponseTimeRule:根據每個服務的響應時間設定權重,響應時間越長,所佔權重越少;
  • AvailabilityFilteringRule:過濾掉那些因為一直連線失敗的被標記為circuit tripped的後端server,並過濾掉那些高併發的的後端server(active connections 超過配置的閾值);
  • ZoneAvoidanceRule:使用CompositePredicate根據區域和可用性過濾伺服器的規則;
  • BestAvailableRule:選擇一個最小的併發請求的server;
  • RetryRule:在現有的策略基礎上,新增重試機制,因為IRule支援「級聯」。

遠端呼叫

Spring Cloud提供了OpenFeign元件(以前叫Feign)來進行遠端的HTTP呼叫。它是對RestTemplate的一個封裝。

Feign是一個宣告式Web Service客戶端。使用Feign能讓編寫Web Service客戶端更加簡單。Spring Cloud對Feign進行了封裝,使其支援了Spring MVC標準註解和HttpMessageConverters。Feign可以與微服務註冊中心和Ribbon組合使用以支援負載均衡。

使用OpenFeign

第一步,引入依賴:

implementation 'org.springframework.cloud:spring-cloud-starter-openfeign'

第二步,啟動配置,在啟動類上新增@EnableFeignClients註解:

@SpringBootApplicationbr/>@EnableFeignClients
public class ServiceOrderApplication {
public static void main(String[] args) {
  SpringApplication.run(ServiceOrderApplication.class,args);
}
}

第三步:宣告呼叫介面,我這裡案例是service-order呼叫service-user的/hello介面,這裡的註解就跟Spring MVC的註解一致:

注意Feign在做POST請求的時候有一個小坑,詳情參考:SpringCloud Feign Post表單請求。

@FeignClient("service-user")
public interface UserClient {
  @GetMapping("hello")
  String getUserHello();
}

第四步:使用,註解使用@Autowired註解注入就可以了:

@RestController
@RequestMapping
public class HelloController {

  @Autowired
  UserClient userClient;

  @GetMapping("hello")
  public String hello() {
    return "hello,this is order service";
  }

  @GetMapping("userHello")
  public String user() {
    return userClient.getUserHello() + ",this is order-service";
  }
}

是不是看起來非常簡單?

OpenFeign整合Ribbon

前面我們提到,OpenFeign底層是對RestTemplate的一個封裝,而Ribbon是通過給RestTemplate新增過濾器來實現的,所以OpenFeign天生就自動集成了Ribbon,我們不需要任何額外的配置。

在上述程式碼中,啟動後,可以訪問service-order的/userHello埠,不斷重新整理,發現已經實現了負載均衡。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。