云中间层服务 - 区域感知负载均衡器 Ribbon

秒速五厘米 2022-06-01 06:08 225阅读 0赞

Ribbon 简介  
        Ribbon 是 Netflix 发布的云中间层服务开源项目，其主要功能是提供客户侧软件负载均衡算法，将 Netflix 的中间层服务连接在一起。  
         Why Ribbon？  
        Ribbon 的区域感知负载均衡器的功能久经考验。区域感知负载均衡器内置电路跳闸逻辑，可被配置基于区域同源关系（Zone Affinity，也就是更倾向于选择发出调用的服务所在的托管区域内，这样可用降低延迟，节省成本）选择目标服务实例。它监控每个区域中运行的实例的运维行为，而且能够实时快速丢弃一整个区域。在面对整个区域的故障时，这帮我们提升了弹性。简单的来说，在配置文件中列出LB后面所有的机器，ribbon 会自动帮你去连这些机器（基于某种规则，如随机连接、轮流连接，基于响应时间等等）。我们很方便地使用 Ribbon 实现自定义负载均衡算法。  
         Ribbon 的其他一些特性

1.  发现服务，比如需要增加一些机器，可以实现 Ribbon 的一个接口将这个机器加到列表里(请参考《[Ribbon 和 wowza 的集成开发][Ribbon _ wowza]》的动态修改负载节点案例)；
2.  对 Cloud 平台的支持：比如对 AWS 来说，有参数支持只返回同一个 zone 的服务器地址，这样避免跨 zone 调用所引起的网络延时；  
    
3.  故障恢复能力：可以将一些不可用的服务器剔除。

Ribbon 架构图  
![ribbon-architecture-dirgram][]  
         Ribbon 时序图  
![Ribbon-wowza-sequence][]  
         如何使用 Ribbon？  
        Ribbon 提供了框架来支持通用的 LB 机制，同时也提供了对 Netflix eureka 框架的支持。接下来我们来看一下如何在 Java 项目里使用 Ribbon。  
        配置文件(sample-client.properties)

**\[plain\]**  [view plain][]   [copy][view plain]

[print][view plain] [?][view plain]

1.  \# Max number of retries on the same server (excluding the first try)  
2.  sample-client.ribbon.MaxAutoRetries=1  
3.    
4.    
5.  \# Max number of next servers to retry (excluding the first server)  
6.  sample-client.ribbon.MaxAutoRetriesNextServer=1  
7.    
8.    
9.  \# Whether all operations can be retried for this client  
10. sample-client.ribbon.OkToRetryOnAllOperations=true  
11.   
12.   
13. \# Interval to refresh the server list from the source  
14. sample-client.ribbon.ServerListRefreshInterval=2000  
15.   
16.   
17. \# Connect timeout used by Apache HttpClient  
18. sample-client.ribbon.ConnectTimeout=3000  
19.   
20.   
21. \# Read timeout used by Apache HttpClient  
22. sample-client.ribbon.ReadTimeout=3000  
23.   
24.   
25. \# Initial list of servers, can be changed via Archaius dynamic property at runtime  
26. sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80

每个条目的格式是为  
<clientName>.<nameSpace>.<propertyName>=<value>  
        clientName 将被接下来的工厂用于创建客户端。nameSpace 是可配置的，默认是 "ribbon"。常用属性名可以从 CommonClientConfigKey 获取。  
        这些属性也可以被定义作系统属性进行获取，也可以以 Archaius 加载的任何属性资源进行获取。  
        Java 代码测试

**\[java\]**  [view plain][]   [copy][view plain]

[print][view plain] [?][view plain]

1.  **public** **static** **void** main(String\[\] args) **throws** Exception \{  
2.        ConfigurationManager.loadPropertiesFromResources("sample-client.properties");  // 1  
3.        System.out.println(ConfigurationManager.getConfigInstance().getProperty("sample-client.ribbon.listOfServers"));  
4.        RestClient client = (RestClient) ClientFactory.getNamedClient("sample-client");  // 2  
5.        HttpClientRequest request = HttpClientRequest.newBuilder().setUri(**new** URI("/")).build(); // 3  
6.        **for** (**int** i = 0; i < 20; i++)  \{  
7.          HttpClientResponse response = client.executeWithLoadBalancer(request); // 4  
8.          System.out.println("Status code for " + response.getRequestedURI() + "  :" + response.getStatus());  
9.        \}  
10.       ZoneAwareLoadBalancer lb = (ZoneAwareLoadBalancer) client.getLoadBalancer();  
11.       System.out.println(lb.getLoadBalancerStats());  
12.       ConfigurationManager.getConfigInstance().setProperty(  
13.             "sample-client.ribbon.listOfServers", "www.linkedin.com:80,www.google.com:80"); // 5  
14.       System.out.println("changing servers ...");  
15.       Thread.sleep(3000); // 6  
16.       **for** (**int** i = 0; i < 20; i++)  \{  
17.         HttpClientResponse response = client.executeWithLoadBalancer(request);  
18.         System.out.println("Status code for " + response.getRequestedURI() + "  : " + response.getStatus());  
19.         response.releaseResources();  
20.       \}  
21.       System.out.println(lb.getLoadBalancerStats()); // 7  
22. \}

代码解释：

1.  使用 Archaius ConfigurationManager 加载属性；
2.  使用 ClientFactory 创建客户端和负载均衡器；  
    
3.  使用 builder 构建 http 请求。注意我们只支持 URI 的 "/" 部分的路径，一旦服务器被负载均衡器选中，会由客户端计算出完整的 URI；  
    
4.  调用 API client.executeWithLoadBalancer()，不是 exeucte() API；  
    
5.  动态修正配置中的服务器池；  
    
6.  等待服务器列表刷新(配置文件中定义的刷新间隔是为 2 秒钟)；  
    
7.  打印出负载均衡器记录的服务器统计信息。

负载均衡器统计包含了很多用于监控的信息，可以用于负载均衡算法的输入。  
        关于 Ribbon 客户端使用的小 demo(包括 LB 调用、动态调整负载均衡节点)请参考博客《 [Ribbon 和 wowza 的集成开发][Ribbon _ wowza] 》。

[Ribbon _ wowza]: http://blog.csdn.net/defonds/article/details/32708235
[ribbon-architecture-dirgram]: /images/20220601/54eead06f383425d9ad376af29a668d0.png
[Ribbon-wowza-sequence]: /images/20220601/105a8a61b5444520ae459f29a20d7dd8.png
[view plain]: http://blog.csdn.net/defonds/article/details/32729155#