Spring Cloud負載均衡及遠端呼叫實現詳解
負載均衡
使用微服務後,為了能夠承擔高併發的壓力,同一個服務可能會啟動多個例項。這時候消費者就需要負載均衡,把請求分散到各個例項。負載均衡主要有兩種設計:
服務端負載均衡客戶端負載均衡
對於傳統的分散式服務來說,大多使用服務端負載均衡。一般會使用Nginx或者ELB等工具作為負載均衡器,如下圖:
傳統負載均衡
而在Spring Cloud中,使用的是「客戶端負載均衡」的方式,使用「Ribbon」元件來實現客戶端的負載均衡。只要引入了微服務註冊中心依賴,就會自動引入Ribbon依賴。客戶端負載均衡原理如下圖:
客戶端負載均衡
Ribbon的原理
Ribbon利用了RestTemplate的攔截器(介面是ClientHttpRequestInterceptor)機制,在攔截器中實現的負載均衡。負載均衡的基本實現就是利用從「服務註冊中心」獲取可用的服務地址列表,然後通過一定演算法負載,決定使用哪一個服務地址來進行HTTP呼叫。
詳情可以檢視LoadBalancerInterceptor這個類,位於org.springframework.cloud.client.loadbalancer包下。
使用Ribbon
首先定義一下生產者「service-user」,我這裡使用容器啟動了多個生產者例項,每個例項具有不同的id,我的示例程式碼裡面啟動了兩個例項:
service-user-1
service-user-2
程式碼:
@RestController @RequestMapping public class HelloController { @Value("${spring.cloud.consul.discovery.instanceId}") private String instanceId; @GetMapping("hello") public String hello() { return String.format("hello,this is %s",instanceId); } }
然後對於消費者「service-order」,可以使用Java宣告式註解的方式來使用Ribbon,只需要在消費者給RestTemplate型別的Bean配上一個@LoadBalanced就可以了。然後再配置一下負載均衡策略:
@Configuration public class RibbonConfig { @Bean @LoadBalanced public RestTemplate ribbonRestTemplate(){ return new RestTemplate(); } @Bean public IRule ribbonRule() { return new RandomRule(); // 隨機負載均衡 } }
然後就可以直接使用自動注入的RestTemplate型別的Bean了:
@RestController @RequestMapping public class HelloController { @Autowired RestTemplate restTemplate; @GetMapping("/ribbon/service-user") public String ribbonService(){ return restTemplate.getForObject("http://service-user/hello",String.class); } }
這個時候訪問消費者的/ribbon/service-user,重新整理幾次,就會看到下面兩個隨機的響應:
hello,this is service-user-2
hello,this is service-user-1
負載均衡策略
檢視IRule介面的實現類,可以看到Ribbon的所有負載均衡策略,檢視各實現類頂部的註釋可以看到它的具體策略:
負載均衡器
- RandomRule:隨機選擇;
- RoundRobinRule:輪詢;
- WeightedResponseTimeRule:根據每個服務的響應時間設定權重,響應時間越長,所佔權重越少;
- AvailabilityFilteringRule:過濾掉那些因為一直連線失敗的被標記為circuit tripped的後端server,並過濾掉那些高併發的的後端server(active connections 超過配置的閾值);
- ZoneAvoidanceRule:使用CompositePredicate根據區域和可用性過濾伺服器的規則;
- BestAvailableRule:選擇一個最小的併發請求的server;
- RetryRule:在現有的策略基礎上,新增重試機制,因為IRule支援「級聯」。
遠端呼叫
Spring Cloud提供了OpenFeign元件(以前叫Feign)來進行遠端的HTTP呼叫。它是對RestTemplate的一個封裝。
Feign是一個宣告式Web Service客戶端。使用Feign能讓編寫Web Service客戶端更加簡單。Spring Cloud對Feign進行了封裝,使其支援了Spring MVC標準註解和HttpMessageConverters。Feign可以與微服務註冊中心和Ribbon組合使用以支援負載均衡。
使用OpenFeign
第一步,引入依賴:
implementation 'org.springframework.cloud:spring-cloud-starter-openfeign'
第二步,啟動配置,在啟動類上新增@EnableFeignClients註解:
@SpringBootApplicationbr/>@EnableFeignClients public class ServiceOrderApplication { public static void main(String[] args) { SpringApplication.run(ServiceOrderApplication.class,args); } }
第三步:宣告呼叫介面,我這裡案例是service-order呼叫service-user的/hello介面,這裡的註解就跟Spring MVC的註解一致:
注意Feign在做POST請求的時候有一個小坑,詳情參考:SpringCloud Feign Post表單請求。
@FeignClient("service-user") public interface UserClient { @GetMapping("hello") String getUserHello(); }
第四步:使用,註解使用@Autowired註解注入就可以了:
@RestController @RequestMapping public class HelloController { @Autowired UserClient userClient; @GetMapping("hello") public String hello() { return "hello,this is order service"; } @GetMapping("userHello") public String user() { return userClient.getUserHello() + ",this is order-service"; } }
是不是看起來非常簡單?
OpenFeign整合Ribbon
前面我們提到,OpenFeign底層是對RestTemplate的一個封裝,而Ribbon是通過給RestTemplate新增過濾器來實現的,所以OpenFeign天生就自動集成了Ribbon,我們不需要任何額外的配置。
在上述程式碼中,啟動後,可以訪問service-order的/userHello埠,不斷重新整理,發現已經實現了負載均衡。
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。