成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

SpringCloud Alibaba微服務實戰(zhàn)之實現(xiàn)網(wǎng)關的灰度發(fā)布

開發(fā) 架構
假設現(xiàn)在開發(fā)環(huán)境的AccountService已經(jīng)在Nacos中注冊了,現(xiàn)在小張需要對它進行修改升級,本地啟動AccountService后也注冊到了Nacos,但是在調(diào)試的時候請求通過網(wǎng)關經(jīng)常直接跳轉到開發(fā)環(huán)境,這樣的話小張就沒辦法安心debug了。

 [[404676]]

本文轉載自微信公眾號「JAVA日知錄」,作者飄渺Jam 。轉載本文請聯(lián)系JAVA日知錄公眾號。

前言

這篇文章來源于粉絲提出的一個問題:如何解決多環(huán)境統(tǒng)一注冊中心服務實例亂竄?

怎么理解呢?

假設現(xiàn)在開發(fā)環(huán)境的AccountService已經(jīng)在Nacos中注冊了,現(xiàn)在小張需要對它進行修改升級,本地啟動AccountService后也注冊到了Nacos,但是在調(diào)試的時候請求通過網(wǎng)關經(jīng)常直接跳轉到開發(fā)環(huán)境,這樣的話小張就沒辦法安心debug了。

其實這個問題歸根結底是如何基于SpringCloud Gateway實現(xiàn)灰度發(fā)布,通過指定的規(guī)則讓請求流量到達特定的實例。

在SpringCloud 2020 版本中官方推薦使用Spring Cloud LoadBalancer 來替換原Ribbon的負載均衡器。所以本篇文章我們直接基于Spring Cloud LoadBalancer來實現(xiàn)。

tips:何為灰度發(fā)布

灰度發(fā)布(又名金絲雀發(fā)布)是指在黑與白之間,能夠平滑過渡的一種發(fā)布方式。在其上可以進行A/B testing,即讓一部分用戶繼續(xù)用產(chǎn)品特性A,一部分用戶開始用產(chǎn)品特性B,如果用戶對B沒有什么反對意見,那么逐步擴大范圍,把所有用戶都遷移到B上面來。灰度發(fā)布可以保證整體系統(tǒng)的穩(wěn)定,在初始灰度的時候就可以發(fā)現(xiàn)、調(diào)整問題,以保證其影響度。

實現(xiàn)目標

目標很明確,小張希望在調(diào)試的時候發(fā)出的請求能直接到達自己的本地開發(fā)環(huán)境,方便調(diào)試。

實現(xiàn)思路

要實現(xiàn)此目標我們需要解決兩個關鍵的問題:

如何區(qū)分不同的實例

需要給小張本地啟動的AccountService服務實例一個特殊標識,讓它與開發(fā)環(huán)境的區(qū)分開。

這里我們可以使用注冊中心的元數(shù)據(jù)metadata來區(qū)分,可以通過spring.cloud.nacos.discovery.metadata.version = dev配置指定,也可以在nacos服務列表中直接添加元數(shù)據(jù)信息。

實現(xiàn)自定義的負載均衡規(guī)則,通過自定義規(guī)則讓負載均衡器能找到我們需要的服務實例

小張在請求服務的時候需要在請求頭上添加標簽,version=dev,自定義負載均衡器在獲取到請求頭信息后去服務實例中查找配置了mtadata.version=dev的服務實例。

Spring Cloud LoadBalancer(SCL)

SCL 負載均衡策略

在Spring Cloud LoadBalancer 官方文檔上有這樣一段說明:

Spring Cloud provides its own client-side load-balancer abstraction and implementation. For the load-balancing mechanism, ReactiveLoadBalancer interface has been added and a Round-Robin-based and Random implementations have been provided for it. In order to get instances to select from reactive ServiceInstanceListSupplier is used. Currently we support a service-discovery-based implementation of ServiceInstanceListSupplier that retrieves available instances from Service Discovery using a Discovery Client available in the classpath.

結合文檔中的其他內(nèi)容,提取出幾條關鍵信息:

Spring Cloud LoadBalancer提供了兩種負載均衡算法:Round-Robin-based 和 Random,默認使用Round-Robin-based

可以通過實現(xiàn)ServiceInstanceListSupplier來篩選符合要求的服務實例

需要通過 LoadBalancerClient 注解,指定服務級別的負載均衡策略以及實例選擇策略

提示:如果大家需要探究SCL的實現(xiàn)原理,可以通過GatewayReactiveLoadBalancerClientAutoConfiguration入手。

自定義灰度發(fā)布

結合上文,利用Spring Cloud LoadBalancer實現(xiàn)灰度我們有兩種實現(xiàn)方式:

簡單粗暴,直接實現(xiàn)一個新的負載均衡策略,然后通過LoadBalancerClient注解指定服務實例使用此策略。

自定義服務實例篩選邏輯,在返回給前端實例時篩選出符合要求的服務實例,當然也需要通過LoadBalancerClient注解指定服務實例使用此選擇器。

代碼實現(xiàn)

版本說明

SpringCloud 項目使用的版本是SpringCloud alibaba推薦的畢業(yè)版本

  1. <spring-boot.version>2.4.2</spring-boot.version> 
  2. <alibaba-cloud.version>2021.1</alibaba-cloud.version> 
  3. <springcloud.version>2020.0.0</springcloud.version> 

自定義負載均衡策略

首先我們來看第一種實現(xiàn)方式,通過自定義負載均衡策略來實現(xiàn)。

在網(wǎng)關模塊引入 SCL ,同時需要剔除nacos注冊中心自帶的Ribbon負載均衡器。

  1. <dependency> 
  2.     <groupId>com.alibaba.cloud</groupId> 
  3.     <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> 
  4.     <exclusions> 
  5.         <exclusion> 
  6.             <groupId>org.springframework.cloud</groupId> 
  7.             <artifactId>spring-cloud-starter-netflix-ribbon</artifactId> 
  8.         </exclusion> 
  9.     </exclusions> 
  10. </dependency> 
  11.  
  12. <dependency> 
  13.     <groupId>org.springframework.cloud</groupId> 
  14.     <artifactId>spring-cloud-loadbalancer</artifactId> 
  15. </dependency> 

 

自定義負載均衡策略 VersionGrayLoadBalancer

  1. /** 
  2.  * Description: 
  3.  * 自定義灰度 
  4.  * 通過給請求頭添加Version 與 Service Instance 元數(shù)據(jù)屬性進行對比 
  5.  * @author Jam 
  6.  * @date 2021/6/1 17:26 
  7.  */ 
  8. @Log4j2 
  9. public class VersionGrayLoadBalancer implements ReactorServiceInstanceLoadBalancer { 
  10.  
  11.     private final ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider; 
  12.     private final String serviceId; 
  13.  
  14.     private final AtomicInteger position; 
  15.  
  16.     public VersionGrayLoadBalancer(ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider, String serviceId) { 
  17.         this(serviceInstanceListSupplierProvider,serviceId,new Random().nextInt(1000)); 
  18.     } 
  19.  
  20.     public VersionGrayLoadBalancer(ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider, 
  21.                                    String serviceId, int seedPosition) { 
  22.         this.serviceId = serviceId; 
  23.         this.serviceInstanceListSupplierProvider = serviceInstanceListSupplierProvider; 
  24.         this.position = new AtomicInteger(seedPosition); 
  25.     } 
  26.  
  27.     @Override 
  28.     public Mono<Response<ServiceInstance>> choose(Request request) { 
  29.  
  30.         ServiceInstanceListSupplier supplier = this.serviceInstanceListSupplierProvider.getIfAvailable(NoopServiceInstanceListSupplier::new); 
  31.  
  32.         return supplier.get(request).next() 
  33.                 .map(serviceInstances -> processInstanceResponse(serviceInstances,request)); 
  34.  
  35.     } 
  36.  
  37.  
  38.     private Response<ServiceInstance> processInstanceResponse(List<ServiceInstance> instances, Request request) { 
  39.         if (instances.isEmpty()) { 
  40.             log.warn("No servers available for service: " + this.serviceId); 
  41.             return new EmptyResponse(); 
  42.         } else { 
  43.             DefaultRequestContext requestContext = (DefaultRequestContext) request.getContext(); 
  44.             RequestData clientRequest = (RequestData) requestContext.getClientRequest(); 
  45.             HttpHeaders headers = clientRequest.getHeaders(); 
  46.  
  47.             // get Request Header 
  48.             String reqVersion = headers.getFirst("version"); 
  49.  
  50.             if(StringUtils.isEmpty(reqVersion)){ 
  51.                 return processRibbonInstanceResponse(instances); 
  52.             } 
  53.  
  54.             log.info("request header version : {}",reqVersion ); 
  55.    // filter service instances 
  56.             List<ServiceInstance> serviceInstances = instances.stream() 
  57.                     .filter(instance -> reqVersion.equals(instance.getMetadata().get("version"))) 
  58.                     .collect(Collectors.toList()); 
  59.  
  60.             if(serviceInstances.size() > 0){ 
  61.                 return processRibbonInstanceResponse(serviceInstances); 
  62.             }else
  63.                 return processRibbonInstanceResponse(instances); 
  64.             } 
  65.         } 
  66.     } 
  67.  
  68.     /** 
  69.      * 負載均衡器 
  70.      * 參考 org.springframework.cloud.loadbalancer.core.RoundRobinLoadBalancer#getInstanceResponse 
  71.      * @author javadaily 
  72.      */ 
  73.     private Response<ServiceInstance> processRibbonInstanceResponse(List<ServiceInstance> instances) { 
  74.         int pos = Math.abs(this.position.incrementAndGet()); 
  75.         ServiceInstance instance = instances.get(pos % instances.size()); 
  76.         return new DefaultResponse(instance); 
  77.     } 
  78.  

獲取請求頭中的version屬性,然后根據(jù)服務實例元數(shù)據(jù)中的version屬性進行匹配,對于符合條件的實例參考Round-Robin-based實現(xiàn)方法。

編寫配置類VersionLoadBalancerConfiguration,用于替換默認的負載均衡算法

  1. /** 
  2.  * Description: 
  3.  * 自定義負載均衡器配置實現(xiàn)類 
  4.  * @author javadaily 
  5.  * @date 2021/6/3 16:02 
  6.  */ 
  7. public class VersionLoadBalancerConfiguration { 
  8.     @Bean 
  9.     ReactorLoadBalancer<ServiceInstance> versionGrayLoadBalancer(Environment environment, 
  10.                                                                  LoadBalancerClientFactory loadBalancerClientFactory) { 
  11.         String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME); 
  12.         return new VersionGrayLoadBalancer( 
  13.                 loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name); 
  14.     } 
  15.  

VersionLoadBalancerConfiguration配置類不能添加@Configuration注解。

在網(wǎng)關啟動類使用注解@LoadBalancerClient指定哪些服務使用自定義負載均衡算法

通過@LoadBalancerClient(value = "auth-service", configuration = VersionLoadBalancerConfiguration.class),對于auth-service啟用自定義負載均衡算法;

或通過@LoadBalancerClients(defaultConfiguration = VersionLoadBalancerConfiguration.class)為所有服務啟用自定義負載均衡算法。

自定義服務實例篩選邏輯

接下來我們看第二種實現(xiàn)方法,通過實現(xiàn)ServiceInstanceListSupplier來自定義服務篩選邏輯,我們可以直接繼承DelegatingServiceInstanceListSupplier來實現(xiàn)。

在網(wǎng)關模塊引入Spring Cloud LoadBalancer(同上)

自定義服務實例篩選邏輯VersionServiceInstanceListSupplier

 

  1. /** 
  2.  * 自定義服務實例篩選邏輯 
  3.  * @author javadaily 
  4.  * 參考:org.springframework.cloud.loadbalancer.core.ZonePreferenceServiceInstanceListSupplier 
  5.  */ 
  6. @Log4j2 
  7. public class VersionServiceInstanceListSupplier extends DelegatingServiceInstanceListSupplier { 
  8.  
  9.  
  10.     public VersionServiceInstanceListSupplier(ServiceInstanceListSupplier delegate) { 
  11.         super(delegate); 
  12.     } 
  13.  
  14.  
  15.     @Override 
  16.     public Flux<List<ServiceInstance>> get() { 
  17.         return delegate.get(); 
  18.     } 
  19.  
  20.     @Override 
  21.     public Flux<List<ServiceInstance>> get(Request request) { 
  22.         return delegate.get(request).map(instances -> filteredByVersion(instances,getVersion(request.getContext()))); 
  23.     } 
  24.  
  25.  
  26.     /** 
  27.      * filter instance by requestVersion 
  28.      * @author javadaily 
  29.      */ 
  30.     private List<ServiceInstance> filteredByVersion(List<ServiceInstance> instances, String requestVersion) { 
  31.         log.info("request version is {}",requestVersion); 
  32.         if(StringUtils.isEmpty(requestVersion)){ 
  33.             return instances; 
  34.         } 
  35.  
  36.         List<ServiceInstance> filteredInstances = instances.stream() 
  37.                 .filter(instance -> requestVersion.equalsIgnoreCase(instance.getMetadata().getOrDefault("version",""))) 
  38.                 .collect(Collectors.toList()); 
  39.  
  40.         if (filteredInstances.size() > 0) { 
  41.             return filteredInstances; 
  42.         } 
  43.  
  44.         return instances; 
  45.     } 
  46.  
  47.     private String getVersion(Object requestContext) { 
  48.         if (requestContext == null) { 
  49.             return null
  50.         } 
  51.         String version = null
  52.         if (requestContext instanceof RequestDataContext) { 
  53.             version = getVersionFromHeader((RequestDataContext) requestContext); 
  54.         } 
  55.         return version; 
  56.     } 
  57.  
  58.     /** 
  59.      * get version from header 
  60.      * @author javadaily 
  61.      */ 
  62.     private String getVersionFromHeader(RequestDataContext context) { 
  63.         if (context.getClientRequest() != null) { 
  64.             HttpHeaders headers = context.getClientRequest().getHeaders(); 
  65.             if (headers != null) { 
  66.                 //could extract to the properties 
  67.                 return headers.getFirst("version"); 
  68.             } 
  69.         } 
  70.         return null
  71.     } 

實現(xiàn)原理跟自定義負載均衡策略一樣,根據(jù)version匹配符合要求的服務實例。

編寫配置類VersionServiceInstanceListSupplierConfiguration,用于替換默認服務實例篩選邏輯

  1. public class VersionServiceInstanceListSupplierConfiguration { 
  2.  
  3.  
  4.     @Bean 
  5.     ServiceInstanceListSupplier serviceInstanceListSupplier(ConfigurableApplicationContext context) { 
  6.         ServiceInstanceListSupplier delegate = ServiceInstanceListSupplier.builder() 
  7.                 .withDiscoveryClient() 
  8.                 .withCaching() 
  9.                 .build(context); 
  10.         return new VersionServiceInstanceListSupplier(delegate); 
  11.     } 

在網(wǎng)關啟動類使用注解@LoadBalancerClient指定哪些服務使用自定義負載均衡算法

通過@LoadBalancerClient(value = "auth-service", configuration = VersionServiceInstanceListSupplierConfiguration.class),對于auth-service啟用自定義負載均衡算法;

或通過@LoadBalancerClients(defaultConfiguration = VersionServiceInstanceListSupplierConfiguration.class)為所有服務啟用自定義負載均衡算法。

測試

啟動多個AccountService實例,對于58302端口的實例配置元數(shù)據(jù)version = dev

postman 調(diào)用接口時指定請求頭

通過debug模式觀察兩種實現(xiàn)邏輯,觀察結果是否符合預期。

小結

本篇文章咱們基于SCL通過擴展負載均衡算法以及修改服務實例篩選邏輯兩種方式實現(xiàn)了簡單的灰度發(fā)布功能,大家可以參考此實現(xiàn)擴展SCL的負載均衡算法或者定制自己的服務篩選邏輯。

 

責任編輯:武曉燕 來源: JAVA日知錄
相關推薦

2021-03-09 09:33:42

網(wǎng)關授權微服務

2021-05-14 09:15:32

SpringCloud微服務日志

2021-01-28 10:10:51

微服務后端SpringCloud

2021-08-02 09:27:02

微服務接口場景

2022-04-09 14:45:02

微服務常見概念Spring

2021-04-22 09:31:58

服務器微服務配置

2016-08-25 20:55:19

微服務架構發(fā)布

2016-08-25 21:12:31

微服務架構發(fā)布

2022-04-27 08:23:34

微服務負載均衡

2024-03-06 15:38:06

Spring微服務架構擴展組件

2022-12-05 09:08:12

微服務灰度發(fā)布

2025-04-17 02:00:00

2024-05-17 16:18:45

微服務灰度發(fā)布金絲雀發(fā)布

2023-11-21 09:35:49

全量部署微服務

2020-03-27 08:46:51

微服務服務網(wǎng)關

2021-03-26 06:01:45

日志MongoDB存儲

2019-09-24 08:44:09

OpenrestyAPI網(wǎng)關

2024-06-04 10:05:48

微服務網(wǎng)關日志

2025-03-13 00:55:00

微服務架構系統(tǒng)

2022-05-12 07:37:51

單點登錄微服務開源
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产日韩一区二区三区 | 久草热8精品视频在线观看 午夜伦4480yy私人影院 | 亚洲高清在线免费观看 | 日韩毛片免费看 | 在线精品一区二区三区 | 涩涩视频在线观看免费 | 欧美日韩国产一区二区三区不卡 | 中国黄色在线视频 | 综合久久亚洲 | 99久久99热这里只有精品 | 成人二区| 日本欧美国产在线 | 九九热精品视频 | 精品国产一区二区三区久久久蜜月 | 亚洲日本成人 | 天天射影院 | 免费观看一级特黄欧美大片 | 日本超碰 | 国产一区| www.色综合 | 久久久久亚洲 | 精品在线观看一区 | 91精品国产综合久久久动漫日韩 | 色偷偷人人澡人人爽人人模 | 久久的色| 免费网站国产 | 视频1区2区| 精品综合在线 | 亚洲视频免费 | 亚洲国产精品视频一区 | 精品国产乱码久久久久久88av | 色毛片| 精精久久 | 精精国产xxxx视频在线播放 | 精品欧美一区二区久久久伦 | 欧美日韩国产精品激情在线播放 | 日韩在线不卡视频 | 中文字幕第十一页 | 日韩毛片播放 | 久久久久国产 | 欧美日韩久久 |