Ribbon实战与原理剖析_ribbon原理-程序员宅基地

技术标签: java  spring cloud  ribbon  springcloudAlibaba  

一、ribbon概述

1、ribbon简介

目前主流的负载方案分为以下两种:

  • 集中式负载均衡,在消费者和服务提供方中间使用独立的代理方式进行负载,有硬件的(比如 F5),也有软件的(比如 Nginx)。
  • 客户端根据自己的请求情况做负载均衡,Ribbon 就属于客户端自己做负载均衡。

Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过Load Balancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。

2、常见负载均衡算法

  • 随机,通过随机选择服务进行执行,一般这种方式使用较少;
  • 轮训,负载均衡默认实现方式,请求来之后排队处理;
  • 加权轮训,通过对服务器性能的分型,给高配置,低负载的服务器分配更高的权重,均衡各个服务器的压力;
  • 地址Hash,通过客户端请求的地址的HASH值取模映射进行服务器调度。 ip hash
  • 最小连接数,即使请求均衡了,压力不一定会均衡,最小连接数法就是根据服务器的情况,比如请求积压数等参数,将请求分配到当前压力最小的服务器上。
  • 最小活跃数

3、Ribbon模块在这里插入图片描述

二、Spring Cloud快速整合Ribbon

1、引入依赖

<!--添加ribbon的依赖-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
<dependency>    

注意:如果引入了 nacos-discovery依赖,可以不用再引入ribbon依赖。因为 nacos-discovery依赖了ribbon

在这里插入图片描述

2、添加@LoadBalanced注解

@Configuration
public class RestConfig {
    
    
    @Bean
    @LoadBalanced
    public RestTemplate restTemplate() {
    
        return new RestTemplate();
    } 
}    

3、 修改controller

@Autowired
private RestTemplate restTemplate;

// version2
@GetMapping("/findOrderByUserId/{userId}")
public R findOrderByUserId(@PathVariable("userId") Integer userId) {
    
    String url = "http://mall-order/order/findOrderByUserId/" + userId;
    // import com.baomidou.mybatisplus.extension.api.R;
    R result = restTemplate.getForObject(url, R.class);
    return result;
}

此时的restTemplate已经具备了自动获取服务列表并根据负载均衡算法确定出要调用服务的能力。我们只需要根据服务名称调用服务即可,不再需要关心服务具体的url以及调用哪个服务。

三、Ribbon内核原理

在这里插入图片描述
其实关于请求调用,Spring提供有一个扩展点拦截器:ClientHttpRequestInterceptor。

Ribbon中使用LoadBalancerInterceptor实现了这个拦截器,会拦截请求,根据负载均衡算法,将原始URL中中的"mall-order"替换成服务实例ip:port,然后再进行最终调用。

1、@LoadBalanced 注解原理

@LoadBalanced其实就是一个修饰符,和@Qualifier一样,比如我们给user1打上@LoadBalanced:

@Bean("user1")
@LoadBalanced
User user1() {
    
return new User("1", "a");
}

@Bean("user2")
User user2() {
    
return new User("2", "b");
}

然后controller中给List users打上@LoadBalanced注解:

@Autowired(required = false)
@LoadBalanced
private List<User> users = Collections.emptyList();

和@Qualifier注解效果一样,只有user1被注入进了List,user2没有修饰符,没有被注入进去。

补充:
@Autowired可以将符合条件的bean注入到List和Map。

@Bean("user1")
User user1() {
    
return new User("1", "a");
}

@Bean("user2"))
User user2() {
    
return new User("2", "b");
}

@Autowired(required = false)
private List<User> users = Collections.emptyList();

@Autowired(required = false)
private Map<String,User> userMap = new HashMap<>();

此时就可以自动将两个bean注入进来,当注入map的时候,map的key必须是String类型,然后bean name将作为map的key,本例,map中将有两个key分别为user1和user2,value分别为对应的User Bean实例。

然后我们给user1和user2分别打上@Qualifier修饰符:

@Bean("user1")
@Qualifier("valid")
User user1() {
    
return new User("1", "a");
}

@Bean("user2")
@Qualifier("invalid")
User user2() {
    
return new User("2", "b");
}

然后将user list 和user map分别也打上@Qualifier修饰符:

@Autowired(required = false)
@Qualifier("valid")
private List<User> users = Collections.emptyList();

@Autowired(required = false)
@Qualifier("invalid")
private Map<String,User> userMap = new HashMap<>();

那么所有标注了@Qualifier(“valid”)的user bean都会自动注入到List users中去(本例是user1),所有标注了@Qualifier(“invalid”)的userbean都会自动注入到Map<String,User> userMap中去(本例是user2)

另外当spring容器中有多个相同类型的bean的时候,可以通过@Qualifier来进行区分,以便在注入的时候明确表明你要注入具体的哪个bean,消除歧义。

2、被@LoadBalanced注解修饰的restTemplate会被定制,添加LoadBalancerInterceptor拦截器。

@Configuration(
        proxyBeanMethods = false
    )
@ConditionalOnMissingClass({
    "org.springframework.retry.support.RetryTemplate"})
static class LoadBalancerInterceptorConfig {
    
    LoadBalancerInterceptorConfig() {
    
    }

    @Bean
    public LoadBalancerInterceptor ribbonInterceptor(LoadBalancerClient loadBalancerClient, LoadBalancerRequestFactory requestFactory) {
    
        return new LoadBalancerInterceptor(loadBalancerClient, requestFactory);
    }

    @Bean
    @ConditionalOnMissingBean
    public RestTemplateCustomizer restTemplateCustomizer(final LoadBalancerInterceptor loadBalancerInterceptor) {
    
        return (restTemplate) -> {
    
            List<ClientHttpRequestInterceptor> list = new ArrayList(restTemplate.getInterceptors());
            // 给加了@LoadBalanced注解的restTemplate添加拦截器,使其对服务列表拉取和负载均衡有确定唯一服务的能力
            list.add(loadBalancerInterceptor);
            restTemplate.setInterceptors(list);
        };
    }
}

四、修改负载均衡策略

1、常用的负载均衡策略类

在这里插入图片描述

  • RandomRule: 随机选择一个Server。
  • RetryRule:对选定的负载均衡策略机上重试机制,在一个配置时间段内当选择Server不成功,则一直尝试使用subRule的方式选择一个可用的server。
  • RoundRobinRule: 轮询选择, 轮询index,选择index对应位置的Server。
  • AvailabilityFilteringRule: 过滤掉一直连接失败的被标记为circuit tripped的后端Server,并过滤掉那些高并发的后端Server或者使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就是检查status里记录的各个Server的运行状态。
  • BestAvailableRule:选择一个最小的并发请求的Server,逐个考察Server,如果Server被tripped了,则跳过。
  • WeightedResponseTimeRule: 根据响应时间加权,响应时间越长,权重越小,被选中的可能性越低。
  • ZoneAvoidanceRule:默认的负载均衡策略,即复合判断Server所在区域的性能和Server的可用性选择Server,在没有区域的环境下,类似于轮询(RandomRule)
  • NacosRule: 同集群优先调用

2、修改默认负载均衡策略

2.1、修改全局配置:调用其他微服务,一律使用指定的负载均衡算法

@Configuration
public class RibbonConfig {
    

  /**
    * 全局配置
    * 指定负载均衡策略
    * @return
    */
   @Bean
   public IRule() {
    
       // 指定使用Nacos提供的负载均衡策略(优先调用同一集群的实例,基于随机权重)
       return new NacosRule();
   }
}  

2.2、修改局部配置:调用指定微服务提供的服务时,使用对应的负载均衡算法

修改application.yml:

# 被调用的微服务名
mall-order:
  ribbon:
    # 指定使用Nacos提供的负载均衡策略(优先调用同一集群的实例,基于随机&权重)
    NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule

2.3、局部配置的第二种方式

可以利用@RibbonClient指定微服务及其负载均衡策略。

@SpringBootApplication(exclude = {
    DataSourceAutoConfiguration.class, DruidDataSourceAutoConfigure.class})
//@RibbonClient(name = "mall-order", configuration = RibbonConfig.class)
//配置多个   RibbonConfig不能被@SpringbootApplication的@CompentScan扫描到,否则就是全局配置的效果
@RibbonClients(value = {
    
    // 在SpringBoot主程序扫描的包外定义配置类
    @RibbonClient(name = "mall-order", configuration = RibbonConfig.class),
    @RibbonClient(name = "mall-account", configuration = RibbonConfig.class)    
})
public class MallUserRibbonDemoApplication {
    

    public static void main(String[] args) {
    
        SpringApplication.run(MallUserRibbonDemoApplication.class, args);
    }
}

注意:此处有坑。不能写在@SpringbootApplication注解的@CompentScan扫描得到的地方,否则自定义的配置类就会被所有的RibbonClients共享。不建议这么使用,推荐yml方式。

在这里插入图片描述

3、自定义负载均衡策略

通过实现IRule接口可以自定义负载策略,主要的选择服务逻辑在 choose 方法中。

3.1、实现基于权重的负载均衡策略

@Slf4j
public class NacosRandomWithWeightRule extends AbstractLoadBalancerRule {
    

    @Autowired
    private NacosDiscoveryProperties nacosDiscoveryProperties;

    @Override
    public Server choose(Object key) {
    
        DynamicServerListLoadBalancer loadBalancer = (DynamicServerListLoadBalancer) getLoadBalancer();
        String serviceName = loadBalancer.getName();
        NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
        try {
    
            //nacos基于权重的算法
            Instance instance = namingService.selectOneHealthyInstance(serviceName);
            return new NacosServer(instance);
        } catch (NacosException e) {
    
            log.error("获取服务实例异常:{}", e.getMessage());
            e.printStackTrace();
        }
        return null;
    }
    @Override
    public void initWithNiwsConfig(IClientConfig clientConfig) {
    

    }
}    

3.2、配置自定义的策略

1)全局配置
@Bean
public IRule ribbonRule() {
    
    return new NacosRandomWithWeightRule();
}

2)局部配置

修改application.yml:

# 被调用的微服务名
mall-order:
  ribbon:
    # 自定义的负载均衡策略(基于随机&权重)
    NFLoadBalancerRuleClassName: com.tuling.mall.ribbondemo.rule.NacosRandomWithWeightRule

五、饥饿加载

Ribbon默认懒加载,意味着只有在发起调用的时候才会创建客户端。在进行服务调用的时候,如果网络情况不好,第一次调用会超时。

开启饥饿加载,解决第一次调用慢的问题:

ribbon:
  eager-load:
    # 开启ribbon饥饿加载
    enabled: true
    # 配置mall-user使用ribbon饥饿加载,多个使用逗号分隔
    clients: mall-order

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qq_38639813/article/details/128326498

智能推荐

Vue 食用指南-程序员宅基地

文章浏览阅读738次,点赞13次,收藏16次。本文记录了 Yukiii 学习 Vue 期间的心得和相关功能的具体实现及 Vue 的基本使用方法,方便后续开发时的查阅~

【Android】高版本访问网络失败问题,解决方法整合_android eperm (operation not permitted)-程序员宅基地

文章浏览阅读6.4k次,点赞3次,收藏25次。报错各种问题,真的很烦java.net.SocketException: socket failed: EPERM (Operation not permitted)java.net.SocketException:socket failed:EACCES (Permission denied)java.io.IOException: Cleartext HTTP traffic to 10.0.2.2 not permittedD/Netw at java.net.Socket.creat_android eperm (operation not permitted)

p88 SRC挖掘-拿下CNVD证书开源&闭源&售卖系统_ihsdus.cn-程序员宅基地

文章浏览阅读826次,点赞2次,收藏9次。SRC挖掘-拿下CNVD证书开源&闭源&售卖系统_ihsdus.cn

文章详情页面评论功能添加及实现原理_在页面中输入你的评论,单击“评论”按钮,如果留言区没有评论,则直接添加评论,如果-程序员宅基地

文章浏览阅读9.9k次,点赞4次,收藏44次。1.评论框及评论内容展示模板如下: div id="comment"> h3>strong>发表评论:strong>h3> p>span>标题:span> input type="text" name="" id="comm_title" class="text">p> p>span>内容:span>textarea rows="10"_在页面中输入你的评论,单击“评论”按钮,如果留言区没有评论,则直接添加评论,如果

mitmdump 详解(3)-程序员宅基地

文章浏览阅读1.2k次。一 什么是mitmproxy 抓包工具2 mitmproxy抓包工具介绍pip install mitmproxy检测是否安装成功mitmproxy --version默认监听 8080端口,使用 -p 指定端口3 下载证书linux 中操作mitmproxytab 切换显..._mitm框架

JSTL中的<c:out>_jstl c:out输出有小数点-程序员宅基地

文章浏览阅读1.7k次。一般情况使用c:out和el表达式的效果是一样的,如: hello(使用标签):hello(使用el表达式):${hello}那一般什么时候会使用c:out标签呢?有两种情况: (1)使用缺省值。有的时候某个东西没设值,但要输出缺省值,如果用el表达式什么都不输出,但可以使用c:out输出想要输出的缺省值;如下: hello(default="123"):这样就输出了想要输出的_jstl c:out输出有小数点

随便推点

Python菜鸟晋级04----raw_input() 与 input()的区别_pycharm没有raw input-程序员宅基地

文章浏览阅读2.5k次。raw_input() 与 input()均是python 的内建函数,通过读取控制台的输入与用户实现交互。但他们的功能不尽相同。举两个小例子>>> raw_input_A = raw_input("raw_input: ")raw_input: abc >>> input_A = input("Input: ")Input: abcTraceback (most recent ca_pycharm没有raw input

高通AR增强现实多卡识别和扩展跟踪Unity_imagetarget扩展追踪-程序员宅基地

文章浏览阅读1k次。只需修改ARcamera上的Max Simutaneous Tracked Images 的值就好了。初始是1,默认只能识别一张图。 扩展跟踪是一个更简单的事情,高通把这个功能封装成了ImageTarget的一个属性 Extended Tracking,只要将其勾上就可以了._imagetarget扩展追踪

对于三星手机的手工root方法-程序员宅基地

文章浏览阅读172次。现在很多一键化的root工具,但是仍然有不少的三星手机是无法用全自动方式进行root的,这时候,我们可以选择使用手工的方式进行root,本文章对手工root的一些方法进行一些介绍。   常规方法:..._三星手机用面具root

2021年佛山高考成绩查询,2021年高三佛山一模,看佛山高中排名-程序员宅基地

文章浏览阅读1.7k次。原标题:2021年高三佛山一模,看佛山高中排名2021年1月11日佛山进行了新高考改革后第一次佛山一模考试,作为高考风向标,各高中的成绩具有很大参考意义。结合2018年中考录取分数、2021年佛山一模、2020年佛山一模对佛山56所高中进行简要分析,从而展望2021年高考。 1-10名石门中学稳居第一,佛山一中重夺第二,南海中学增长强劲,顺德一中略显颓势,李兆基中学增长强劲,郑裕彤中学加工能..._佛山国华纪念中学2021年高考成绩

删除并清空应收应付模块 期初数据_应付管理系统怎么清除数据-程序员宅基地

文章浏览阅读1k次。---------查询公司pkselect pk_corp from bd_corp where unitcode='公司编码' 进行删除应收应付模块启用功能 删除2008与2006的行即可(删除行前,要删除期初录入的数据。) select * from sm_createcorp where pk_corp='1025' for update 解锁,删除行,点对勾,然后提前端f10_应付管理系统怎么清除数据

嵌入式固件加密的几种方式-程序员宅基地

文章浏览阅读669次,点赞13次,收藏8次。嵌入式固件加密的几种方式_固件加密

推荐文章

热门文章

相关标签