初识Spring Cloud--Ribbon客户端负载均衡

Myth丶恋晨 2022-04-12 13:38 143阅读 0赞

首先来看一下Ribbon的作用:

ribbon 是一个客户端负载均衡器，主要是实现类似于 nginx的负载均衡的功能。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70][]

SpringCloud提供了7种负载均衡的算法，如下表所示，ribbon 默认使用轮询算法(RoundRobinRule)来实现负载均衡，

<table style="width:500px;"> 
 <tbody> 
  <tr> 
   <td>策略名</td> 
   <td>策略声明</td> 
   <td>策略描述</td> 
   <td>实现说明</td> 
  </tr> 
  <tr> 
   <td>BestAvailableRule</td> 
   <td>public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule&nbsp;&nbsp; &nbsp;</td> 
   <td>选择一个最小的并发请求的server</td> 
   <td>逐个考察Server，如果Server被tripped了，则忽略，在选择其中ActiveRequestsCount最小的server</td> 
  </tr> 
  <tr> 
   <td>AvailabilityFilteringRule</td> 
   <td>public class AvailabilityFilteringRule extends PredicateBasedRule&nbsp;&nbsp; &nbsp;</td> 
   <td>过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server，并过滤掉那些高并发的的后端server（active connections 超过配置的阈值）&nbsp;&nbsp; &nbsp;</td> 
   <td>使用一个AvailabilityPredicate来包含过滤server的逻辑，其实就就是检查status里记录的各个server的运行状态</td> 
  </tr> 
  <tr> 
   <td>WeightedResponseTimeRule</td> 
   <td>public class WeightedResponseTimeRule extends RoundRobinRule&nbsp;&nbsp; &nbsp;</td> 
   <td>根据响应时间分配一个weight，响应时间越长，weight越小，被选中的可能性越低。&nbsp;&nbsp; &nbsp;</td> 
   <td>一个后台线程定期的从status里面读取评价响应时间，为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetim</td> 
  </tr> 
  <tr> 
   <td>RetryRule</td> 
   <td>public class RetryRule extends AbstractLoadBalancerRule&nbsp;&nbsp; &nbsp;</td> 
   <td>对选定的负载均衡策略机上重试机制。&nbsp;&nbsp; &nbsp;</td> 
   <td>在一个配置时间段内当选择server不成功，则一直尝试使用subRule的方式选择一个可用的server</td> 
  </tr> 
  <tr> 
   <td>RoundRobinRule</td> 
   <td>public class RoundRobinRule extends AbstractLoadBalancerRule&nbsp;&nbsp; &nbsp;</td> 
   <td>roundRobin方式轮询选择server&nbsp;&nbsp; &nbsp;</td> 
   <td>轮询index，选择index对应位置的server</td> 
  </tr> 
  <tr> 
   <td>RandomRule</td> 
   <td>public class RandomRule extends AbstractLoadBalancerRule&nbsp;&nbsp; &nbsp;</td> 
   <td>随机选择一个server&nbsp;&nbsp; &nbsp;</td> 
   <td>在index上随机，选择index对应位置的server</td> 
  </tr> 
  <tr> 
   <td>ZoneAvoidanceRule</td> 
   <td>public class ZoneAvoidanceRule extends PredicateBasedRule&nbsp;&nbsp; &nbsp;</td> 
   <td>复合判断server所在区域的性能和server的可用性选择server&nbsp;&nbsp; &nbsp;</td> 
   <td>使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server，前一个判断判定一个zone的运行性能是否可用，剔除不可用的zone（的所有server）</td> 
  </tr> 
 </tbody> 
</table>

下面我们通过代码来实现Ribbon的负载均衡功能；不同于dubbo的rpc调用，SpringCloud采用的rest方式进行服务调用，创建一个RemoteController类来模拟调用：

@RestController
    @RequestMapping("/remote")
    public class RemoteController {
        private static final String URL_PREFIX = "http://SERVICE01";
        @Autowired
        private RestTemplate restTemplate;
    
        @GetMapping("/getService")
        public Object getRemoteService() {
            return restTemplate.getForObject(URL_PREFIX + "/local/getServiceInfo", Object.class);
        }
    }

其中的RestTemplate类需要手动的加载到IOC容器中，在启动类中添加如下的代码:

@Bean
        @LoadBalanced
        public RestTemplate getRestTemplate() {
            return new RestTemplate();
        }

接着我们创建service01的多个实例:

![20181203225130573.PNG][]

通过postman模拟请求，分别会调用这四个服务中的一个，并且调用的服务顺序是有序的。

那么如何调用其他的6种负载均衡算法呢?

![timg_image_quality_80_size_b9999_10000_sec_1543859324246_di_fb20d6e54a86c6ca33f97fff11155bac_imgtype_0_src_http_3A_2F_2Fn.sinaimg.cn_2Fsinacn13_2F71_2Fw500h371_2F20180912_2F0b8f-fzrwica3327265.jpg][]

很简单，我们只要在启动类种添加如下的代码即可:

@Bean
    	public IRule getRule(){
    		return new RandomRule();
    	}

这时候可能又有一个疑问了，这个负载均衡的算法只能使用SpringCloud提供的7种算法吗？如果想要自己定义一个算法又该如何实现呢？

假如这边有一个比较变态的需求，我只要service06给我提供服务那怎么操作呢?

依然简单，我们可以新建一个配置类:

@Configuration
    public class CustomRule {
        @Bean
        public IRule getRule() {
             return new SingleRule();
        }
    }

自定义负载均衡算法:

public class SingleRule extends AbstractLoadBalancerRule {
        public Server choose(ILoadBalancer lb, Object key) {
            if (lb == null) {
                return null;
            }
            Server server = null;
    
            while (server == null) {
                if (Thread.interrupted()) {
                    return null;
                }
                List<Server> upList = lb.getReachableServers();
                List<Server> allList = lb.getAllServers();
    
                int serverCount = allList.size();
                if (serverCount == 0) {
                    return null;
                }
                server = upList.get(0);
                if (server == null) {
                    Thread.yield();
                    continue;
                }
                if (server.isAlive()) {
                    return (server);
                }
                // Shouldn't actually happen.. but must be transient or a bug.
                server = null;
                Thread.yield();
            }
            return server;
        }
    
        @Override
        public Server choose(Object o) {
            return choose(getLoadBalancer(), o);
        }
    
        @Override
        public void initWithNiwsConfig(IClientConfig iClientConfig) {
    
        }
    }

这里有一点需要注意:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70 1][]

也就是说，这个配置类不能和之前的启动类放到启动类的同一个包下面，不然所有的ribbon客户端都会采用这个自定义的负载均衡算法。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70 2][]

至此，一个自定义的负载均衡算法就实现啦，当然实际中估计没有人会这么用，具体的算法还是需要依据不同的业务来确定。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70]: /images/20220412/ebac8dd9e422461daf6b5cc90f8d2d09.png
[20181203225130573.PNG]: /images/20220412/7202b4e759e847f796aa1a6dd91c81ce.png
[timg_image_quality_80_size_b9999_10000_sec_1543859324246_di_fb20d6e54a86c6ca33f97fff11155bac_imgtype_0_src_http_3A_2F_2Fn.sinaimg.cn_2Fsinacn13_2F71_2Fw500h371_2F20180912_2F0b8f-fzrwica3327265.jpg]: https://timgsa.baidu.com/timg?image&quality=80&size=b9999_10000&sec=1543859324246&di=fb20d6e54a86c6ca33f97fff11155bac&imgtype=0&src=http%3A%2F%2Fn.sinaimg.cn%2Fsinacn13%2F71%2Fw500h371%2F20180912%2F0b8f-fzrwica3327265.jpg
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70 1]: /images/20220412/7b226fe1696d4415be5e6288d9cfc741.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbGlzaGFkYWE_size_16_color_FFFFFF_t_70 2]: /images/20220412/823bedf6e6524de385ddc1ca4d2db267.png