Redis分布式入门

r囧r小猫 2022-03-01 13:40 225阅读 0赞

前言:本文章为慕课网上Java企业级电商项目架构演进之路Tomcat集群与Redis分布式的学习笔记.

**目录**

第一章 Redis分布式算法原理

1.1 一致性hash算法(Consistent hashing)

1.2 哈希倾斜

第二章 Redis分布式环境配置

2.1 配置两个redis

第三章 Springboot2.13操作分布式redis

3.1 配置redis参数

3.2 创建redis的连接池

3.3 操作redis

--------------------

# 第一章 Redis分布式算法原理 #

当我们有20个数据,4个redis结点时,我可以按照取模的方法,对这20个数据进行一一分配.即1%4=1,所以1数据分配到1节点上,4%4=0所以4分配到0节点上,分配完后如下图所示.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70][]

当我们想按如上规则增加一个redis节点时,我们发现只有四个节点的位置不需要重新分配,这样命中率只有4/20=20%,即百分之20的节点不需要重新分配.这样效率有点低,我们需要一个新的算法来分配数据节点,来保证新增或删除redis节点时,不需要有太多的数据节点被重新分配.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 1][]

##  1.1 一致性hash算法(Consistent hashing) ##

![20190322181344327.png][]

通常hash算法是将value映射到一个32位的key值当中,我们将数轴卷起变为收尾相接的圆环,取值范围位从0-2^32-1.也就是这个环能存储2^32-1个元素.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 2][]

考虑四个对象object1~object4,通过hash函数计算出hash值key,,比如object1经过hash后的值称为key1,如下图,于是四个对象就都被映射到了哈希空间中.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 3][]

我们的object需要cache来进行存储,所以我们要将object和cache都映射到同一个hash数值空间中,并且使用相同的hash算法,对于cache的哈希计算,可以使用机器的ip,机器名作为hash的输入,也可以引入更多的因子,如端口号.

![20190322182030361.png][]

假设我们有三个cache,映射后就如下图所示.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 4][]

如何把对象映射到cache中呢?沿着key所在的位置顺时针出发所碰到的第一个cache节点是CacheA,那么key1(简称1)就要存到CacheA(简称A)中,这样就找到了对象映射到缓存中的方案.都映射完如下图所示.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 5][]

我们的生产环境可能会调整,传统的取模方式对后台服务器造成了巨大的冲击,我们现在移除Cache节点,移除CacheB,object4就会按照原来的算法找到CacheC,存到Cache C中.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 6][]

所以移除CacheB后影响的范围就是橙色框中的节点.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 7][]

增加CacheD后影响的就是橙色框中的节点.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 8][]

## 1.2 哈希倾斜 ##

根据上面的论述,Cache节点的位置影响着重新分配数据时的效率,我们理想的Cache节点分布如下图.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 9][]

现实可能是这样的.如果时这样大量的数据就会落到A上面,导致A很忙,B,C很倾斜.同时去掉A时也会影响大量节点.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 10][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 11][]

为了解决这个问题,引入了虚拟节点.我们先将我们的数据映射到分布均匀的虚拟节点上,再将虚拟节点映射到真正的Cache节点上.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 12][]

我们增加虚拟节点A,B,C,加完后如下图,这样1,3落在A上,2,6落在C上,5,4落在B上.可是这样虚拟节点也会有哈希倾斜性,我们可以增加大量的虚拟节点,给虚拟节点分配一个良好的比例,随着节点越来越多,数据越来越多,增加和删除节点的影响就会降到最低.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 13][]

命中率计算公式,服务器台数是n,新增的服务器台数是m

(1-n/(n+m))\*100%

之前用取模的方式命中率只有20%,虽然都是百分之20,但是那是因为数据量很小,当我们扩大到百万级,我们变动的服务器台数越大,命中率就会越高,所以这个算法是说随着我们的分布式集群越来越大的时候,这个算法的优点就会体现出来.Consistant已经最大限制的抑制了哈希的重新分布,而且我们还可以运用虚拟节点的思想,让每个实际节点都配置个100-500个虚拟节点,这样就能抑制分布不均匀了.

# 第二章 Redis分布式环境配置 #

## 2.1 配置两个redis ##

我们将windows中的redis分成两个文件夹

![20190322202310877.png][]

第一个直接启动

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 14][]

第二个修改配置文件端口为6380然后启动

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 15][]

# 第三章 Springboot2.13操作分布式redis #

## 3.1 配置redis参数 ##

两个redis都是架在本地的所以地址都是127.0.0.1,一个端口是6379,一个端口是6380.

redis2.maxtotal = 20
    redis2.maxIdle = 10
    redis2.minIdle = 2
    redis2.testOnReturn = true
    redis2.testOnBorrow = true
    redis2.redisPort1 = 6379
    redis2.redisIp1 = 127.0.0.1
    redis2.redisPort2 = 6380
    redis2.redisIp2 = 127.0.0.1

## 3.2 创建redis的连接池 ##

@Component
    @ConfigurationProperties(prefix = "redis2")
    @Slf4j
    @Getter
    @Setter
    public class RedisShardedPool {
        private ShardedJedisPool pool;//jedis连接池
        private Integer maxtotal  ; //最大连接数
        private Integer maxIdle ; //在jedispool中最大的idle(空闲的)状态的jedis实例的个数
        private Integer minIdle ; //在jedispool中最小的idle(空闲的)状态的jedis实例的个数
        private Boolean testOnBorrow ;
        private Boolean testOnReturn ;
        private Integer redisPort1 ;
        private String redisIp1;
        private Integer redisPort2 ;
        private String redisIp2;
        public RedisShardedPool(){
            log.info("构造方法开始执行");
        }
        @PostConstruct
        public void initPool(){
             log.info("属性已经注入");
            log.info("开始创建连接池");
            JedisPoolConfig config = new JedisPoolConfig();
    
            config.setMaxTotal(maxtotal);
            config.setMaxIdle(maxIdle);
            config.setMinIdle(minIdle);
    
            config.setTestOnBorrow(testOnBorrow);
            config.setTestOnReturn(testOnReturn);
    
            config.setBlockWhenExhausted(true);
    
            JedisShardInfo info1 = new JedisShardInfo(redisIp1,redisPort1,1000*2);
            JedisShardInfo info2 = new JedisShardInfo(redisIp2,redisPort2,1000*2);
    
            List<JedisShardInfo> jedisShardInfoList = new ArrayList<JedisShardInfo>(2);
            jedisShardInfoList.add(info1);
            jedisShardInfoList.add(info2);
            //Hashing.MURMUR_HASH是分篇策略,应用的是一致性分布算法.
            pool= new ShardedJedisPool(config,jedisShardInfoList, Hashing.MURMUR_HASH, Sharded.DEFAULT_KEY_TAG_PATTERN);
        }
        public ShardedJedis getJedis(){
            return pool.getResource();
        }
    }

## 3.3 操作redis ##

我们向redis中插入了10个值

@RequestMapping("/testSharedJedis")
        public String testSharedJedis(){
            ShardedJedis shardedJedis = redisShardedPool.getJedis();
            for(int i=0;i<10;i++){
                shardedJedis.set("hey"+i,"value"+i);
            }
            return "index";
        }

分别查看两个redis库中的值

接口为6379的数据库:

![20190322221440136.png][]

接口为6380的数据库:

![20190322221511657.png][]

可以看到已经向两个数据库中插入了值,操作成功!

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70]: /images/20220301/8b89d3828c344f82b070df905d56b3d2.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 1]: /images/20220301/4dffc948659f43e2af05c99f2c7371cd.png
[20190322181344327.png]: /images/20220301/3d5f468b919e4027afb53a7888704760.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 2]: /images/20220301/0fa82eb0540b4ba0a578abe256b4f19a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 3]: /images/20220301/a806da6f8fc94b34b50db6344c6de2c7.png
[20190322182030361.png]: /images/20220301/96b24de5f6fc470d9f67418a559ef16e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 4]: /images/20220301/97fae82b1a1148c4a36e20ee721b9912.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 5]: /images/20220301/c091c4359b8040acad9c6d7e5816d042.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 6]: /images/20220301/153c16a739904792b05b22db0e04c40b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 7]: /images/20220301/48dd701cecbd4b74b3e31ea1e95ebb12.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 8]: /images/20220301/d5a5ef4584ff4c99963d113e9d0d4b55.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 9]: /images/20220301/39a59a83fa2e4a498ea14d488532f1fd.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 10]: /images/20220301/47cd22ade865433fab3339a80fc40563.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 11]: /images/20220301/db6faeca684b442faf429271547661ab.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 12]: /images/20220301/1199d70039b04bd4baa41d6696328154.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 13]: /images/20220301/586fde147c2f4f2c90a237334bb68737.png
[20190322202310877.png]: /images/20220301/b0b3184d475242458190b2ba0e991a5e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 14]: /images/20220301/42874e6b549d4f5d8997136cf0e4b7e6.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3E2MTAzNzY2ODE_size_16_color_FFFFFF_t_70 15]: /images/20220301/17e27b67726e4e27b6e5ce2997ff9f73.png
[20190322221440136.png]: /images/20220301/a0d680cc5fa8435683b132bbf5213b38.png
[20190322221511657.png]: /images/20220301/fbf7b90fe8224118866d7fee75515188.png