Springboot+SpringCloud实战 12-第十二章电子课件.ppt

《Springboot+SpringCloud实战 12-第十二章电子课件.ppt》由会员分享，可在线阅读，更多相关《Springboot+SpringCloud实战 12-第十二章电子课件.ppt（31页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、Springboot+SpringCloud实战 12-第十二章电子课件第十二章 负载均衡器Ribbon学习目标l 了解负载均衡策略。l 熟悉Ribbon的基本使用。l 了解Ribbon工作原理。l 熟悉Ribbon负载均衡策略。l 熟悉如何配置Ribbon的负载均衡策略和其他配置。在项目开发中，当用户量和业务量都多起来的时候，我们会发现一个商品微服务处理的请求量已经不能满足我们 业务需求，我们需要准备多个商品微服务才可以满足请求调用或者给订单微服务调用，于是我们在Eureka中注册了多个商品微服务用来处理高并发下的商品相关业务，也就是集群。那么当订单微服务客户端发送商品相关请求过来之后如何选

2、择由哪一个商品微服务处理请求呢？这就需要使用负载均衡来处理。本章我们就来认识Spring Cloud Netflix的另一个“利器”负载均衡器Ribbon。负载均衡策略 12Ribbon介绍和使用3Ribbon工作原理4Ribbon负载均衡策略5Ribbon策略测试和其他配置负载均衡策略负载均衡（Load Balance）是实现系统高可用、缓解网络压力以及处理能力扩容的重要手段之一，负载均衡可以帮我们把一些网络请求的压力“均衡”到所有的服务器进行处理。当然，因为多台服务器的承载能力各不相同，有的硬件配置高而有的硬件配置低，有的网络带宽高而有的网络带宽低，所以负载均衡是在保证服务器不会过载情况下

3、，发挥程序的最大作用。我们通常所说的负载均衡指的是服务器端负载均衡，可分为硬件负载均衡和软件负载均衡两种。硬件负载均衡是直接在服务器节点之间安装专门的负载均衡设备，来完成网络请求转发的任务，它独立于操作系统，整体性能高，负载均衡策略多样化，流量管理智能化。它的优点是功能强大，不仅包含负载均衡，还包括其他应用，例如，网络地址转换、SSL加速等；缺点是成本太高，并且无法掌握服务器和应用的状态。负载均衡策略软件负载均衡是通过在服务器上安装和使用一些具有负载功能或模块的软件来实现请求的转发，使用比较多的有Nginx、LVS、HAProxy等。其中Nginx在中小型Web应用中使用较为广泛，是服务器端常

4、用的一种软件负载均衡策略，如图所示。负载均衡策略负载均衡模块都会维护一个可用服务器节点的清单，通过心跳等策略来判断以及从清单中剔除故障服务器节点，来确保清单中的服务器节点都是可以正常访问的。当客户端发送请求给负载均衡软件的时候，它会按线性轮询、按权重大小等负载均衡算法命中某个服务器节点，然后转发请求。根据服务清单存储的位置和维护方式不同，负载均衡又分为服务器端负载均衡和客户端负载均衡。前面提到的Nginx负载均衡的清单在Nginx负载均衡软件处，在集群前添加Nginx，所有访问集群节点的请求都会交给Nginx，然后由Nginx转发请求，这种属于服务器端负载均衡。在Spring Cloud微服务

5、开发中，所有的客户端都维护着自己要访问的服务清单，而这些服务清单都存储在Eureka注册中心，同服务端负载均衡一样，客户端访问时也需要进行负载均衡处理，那么它是怎么实现负载均衡的呢？使用Spring Cloud Netflix提供的客户端负载均衡器Ribbon即可。负载均衡策略 12Ribbon介绍和使用3Ribbon工作原理4Ribbon负载均衡策略5Ribbon策略测试和其他配置Ribbon介绍和使用Ribbon是Netflix公司提供的一个在Spring Cloud中免费使用的客户端负载均衡器组件。它在集群中为各个客户端之间的通信提供支持，可以控制、管理HTTP和TCP客户端的负载均衡。

6、Ribbon从Eureka注册获取访问服务提供者地址列表后，就可基于某种负载均衡算法，自动地帮助服务消费者去请求。如图所示，展示了Ribbon获取服务清单并实现请求的流程。Ribbon提供了一系列完善的配置选项，如连接超时、重试算法等。Ribbon还内置了可插拔、可定制的负载均衡组件。Ribbon介绍和使用在第9章中我们使用了RestTemplate 进行服务之间的访问，并且在配置的Bean上使用了LoadBalanced注解，其实这时候RestTemplate 默认使用了Ribbon的负载均衡策略。Ribbon除了和RestTemplate结合实现客户端负载均衡之外，同样也被集成到了Feig

7、n中，当使用FeignClient的时候，Feign也默认使用了Ribbon进行网络请求的负载均衡。下面我们通过一个实例来看一下Ribbon负载均衡的使用。我们还是使用订单服务调用商品服务来测试和查看Ribbon的负载均衡。首先我们启动一个Eureka注册中心和一个订单服务，然后配置两个名字一样但是端口号不一样（一个是7001，另外一个是7003）的商品服务。Ribbon介绍和使用如图所示：Ribbon介绍和使用然后在 GoodsController中添加日志输出，用来确定调用的接口，如程序清单12-1所示。Ribbon介绍和使用然后启动商品服务，并在浏览器中访问两次订单接口，共需要查询6个商

8、品，所以需要调用6次商品服务，然后在控制台中可以看到商品服务调用情况是轮询调用，而不是所有接口都在一个服务中调用，如图所示。因此，我们了解到Ribbon的负载均衡策略默认为轮询调用服务清单中的服务。负载均衡策略 12Ribbon介绍和使用3Ribbon工作原理4Ribbon负载均衡策略5Ribbon策略测试和其他配置Ribbon工作原理之前我们在使用RestTemplate进行服务交互的时候，在其注入的bean上添加了LoadBalanced注解，这样它就默认是使用Ribbon进行负载均衡处理。但是RestTemplate是Spring提供的，Bean跟Ribbon客户端负载均衡又有什么关系呢

9、？下面我们就来深入地研究Ribbon是如何结合RestTemplate实现客户端服务调用的负载均衡的。既然RestTemplate是使用了LoadBalanced注解才让其实现Ribbon的负载均衡的，那么我们就从这个注解开始着手研究。按住“Ctrl”键并单击LoadBalanced注解查看源码，我们发现这个注解里面没有什么特殊的内容，但是从源码的注释可以知道该注解是标记在RestTemplate或WebClient Bean上的，从而配置为LoadBalancerClient。接着观察LoadBalancerClient的源码，可以发现它是一个定义了负载均衡方法的接口，如程序清单12-2所示

10、。Ribbon工作原理除了上面源码中定义负载均衡的几种方法外，LoadBalancerClient还继承了ServiceInstance-Chooser接口中的chooser方法，如程序清单12-3所示。通过查看这几个功能方法的注释可以得知，choose方法是通过serviceId（服务ID）从负载均衡器中挑选出对应的服务实例的；execute方法是使用从负载均衡器中挑选出来的服务来处理请求的；reconstructURI方法表示为服务实例创建一个host:port的URI实例。我们通过IDEA查看LoadBalancerClient接口继承和实现关系，如图所示。Ribbon工作原理从上图中可

11、以看到，RibbonLoadBalancerClient是LoadBalancerClient的实现类，单击查看它的源码可知它是执行客户端负载均衡处理功能的子类。RibbonLoadBalancerClient重写的choose功能方法中，内部通过getServer方法根据serviceId获取到服务，而从getServer方法中可以发现其是通过ILoadBalancer接口来实现的，如程序清单12-4所示。Ribbon工作原理ILoadBalancer是一个接口，所以它只定义了实现负载均衡的方法，如程序清单12-5所示。Ribbon工作原理通过方法定义我们知道ILoadBalancer接口及

12、其实现子类主要实现的是addServers（添加服务）、chooseServer（选择服务）、getAllServers（获取服务）和getServerList（获取服务列表）等。同样地我们通过IDEA工具查看其类的实现关系，如图所示。Ribbon工作原理ILoadBalancer接口的实现类是AbstractLoadBalancer，但是它是一个抽象类，所以服务的获取、选择以及添加等操作主要在其子类BaseLoadBalancer和DynamicServerListLoadBalancer中实现。这两个子类中还定义了负载均衡的客户端配置IClientConfig、获取服务的负载均衡策略IRu

13、le、通过IPing接口进行ping测试来判断服务是否可用以及从Eureka服务列表中获取服务列表Server集合对象等，这里就不再列出其源码。通过上面的描述，我们知道负载均衡进行服务的添加、服务的获取、服务的选择等操作主要是通过LoadBalancerClient的子类RibbonLoadBalancerClient实现的，那么为什么我们在RestTemplate注入的Bean上添加LoadBalanced注解就可以加载RibbonLoadBalancerClient进行负载均衡呢？这是因为Ribbon有一个自动配置类RibbonAutoConfiguration，而RibbonAutoCo

14、nfiguration加载前会加载LoadBalancerAutoConfiguration配置类，在LoadBalancer-AutoConfiguration中有一个被LoadBalanced修饰的RestTemplate集合，在进行初始化的时候使用RestTemplateCustomizer给每一个RestTemplate都添加了LoadBalancerInterceptor拦截器。LoadBalancerAutoConfiguration部分源码如程序清单12-6所示。Ribbon工作原理Ribbon工作原理LoadBalancerInterceptor 拦截器（其源码如程序清单12-

15、7所示）负责拦截请求，并把请求交给LoadBalancerClient负载均衡类处理，因此RestTemplate就实现了负载均衡的功能。负载均衡策略 12Ribbon介绍和使用3Ribbon工作原理4Ribbon负载均衡策略5Ribbon策略测试和其他配置Ribbon负载均衡策略通过上一节解析Ribbon原理我们知道，在BaseLoadBalancer中通过IRule接口定义了很多的负载均衡策略，所以我们可以通过查看IRule的接口类实现关系来看一下Ribbon有哪些负载均衡策略，如图所示。IRule接口的直接子类是AbstractLoadBalancerRule，但是它是一个抽象类，它只定

16、义了一个ILoadBalancer负载均衡对象，通过它可以从负载均衡器中获取信息并维护，将其作为分配的依据，并以此设计一些算法来实现针对特定场景的高效策略。图中各个具体的实现类表示不同的负载均衡策略，我们来介绍几个常用的策略。Ribbon负载均衡策略l RoundRobinRule：Ribbon默认的负载均衡策略，该策略实现了按照线性轮询的方式选择每个服务实例的功能。l RandomRule：该策略是通过线程安全获取一个不超过服务列表数量的整型随机数，然后从服务列表中随机获取一个服务实例。l RetryRule：该策略实现了一个具备重试机制的实例选择功能。该策略下，如果轮询获取某一个服务在一个

17、配置时间段内不成功，则一直尝试使用subRule对象的choose方法选择服务功能来选择一个可用的服务。l WeightedResponseTimeRule：RoundRobinRule策略的拓展，它实现了根据权重（Weight）选择服务的功能，根据平均响应时间分配一个权重，响应时间越长，权重越小，被选中的概率越低，响应时间越短，权重越大，被选中的概率越高。l BestAvailableRule：该策略下会根据服务状态来判断处于断路跳闸状态的服务，然后选择一个连接数小的服务。负载均衡策略 12Ribbon介绍和使用3Ribbon工作原理4Ribbon负载均衡策略5Ribbon策略测试和其他配置

18、Ribbon策略测试和其他配置l Ribbon策略测试在第2节中我们进行Ribbon第一个实例的时候就发现了Ribbon从服务清单里面调用服务默认是通过轮询的方式，接下来我们将通过修改一些配置来体验其他的负载均衡策略。首先，我们需要在订单服务的application.yml文件中配置其他的负载均衡策略，如程序清单12-8所示。其中，goods表示服务的名称，NFLoadBalancerRuleClassNamebiaos表示配置策略类所在的路径名，这是对调用goods服务进行负载均衡策略设置，如果要调用其他服务则可以把服务名称去掉，表示配置调用所有服务的Ribbon策略。Ribbon策略测试和

19、其他配置配置好随机策略之后，我们多配置几个商品服务，然后通过订单服务调用商品服务，如图所示。图中的结果是我们多次调用接口的结果，从中我们可以发现它们被调用的次数不是均等的，依次查看会发现使用的不是轮询调用而是随机调用，当我们把application.yml中的配置注释掉之后发现又变成了轮询调用，即使用轮询策略。Ribbon策略测试和其他配置l Ribbon其他配置在调用服务的时候，我们除了需要配置负载均衡调用策略外，可能还需要配置服务调用超时时间、重试次数等，如程序清单12-9所示。Ribbon策略测试和其他配置Ribbon在进行负载均衡时，并不是启动时就加载上下文，而是在实际的请求发送时才去请求上下文信息，获取被调用者的IP地址、端口，这种方式在网络环境较差时往往会使得第一次请求超时，导致调用失败。此时需要配置Ribbon客户端进行饥饿加载，如程序清单12-10所示。饥饿加载是指在启动的时候便加载所有配置项到应用程序上下文。谢 谢