分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案（7）

浅浅的花香味﹌ 2022-05-31 14:22 169阅读 0赞

# 分布式重建缓存的并发冲突问题 #

**重建缓存**：比如我们这里，数据在所有的缓存中都不存在了（LRU算法弄掉了），就需要重新查询数据写入缓存，重建缓存

分布式的重建缓存，在不同的机器上，不同的服务实例中，去做上面的事情，就会出现多个机器分布式重建去读取相同的数据，然后写入缓存中

分布式重建缓存的并发冲突问题。。。。。。

## 1、流量均匀分布到所有缓存服务实例上 ##

应用层nginx，是将请求流量均匀地打到各个缓存服务实例中的，可能咱们的eshop-cache那个服务，可能会部署多实例在不同的机器上

## 2、应用层nginx的hash，固定商品id，走固定的缓存服务实例 ##

分发层的nginx的lua脚本，是怎么写的，怎么玩儿的，搞一堆应用层nginx的地址列表，对每个商品id做一个hash，然后对应用nginx数量取模

将每个商品的请求固定分发到同一个应用层nginx上面去

在应用层nginx里，发现自己本地lua shared dict缓存中没有数据的时候，就采取一样的方式，对product id取模，然后将请求固定分发到同一个缓存服务实例中去

## 3、源信息服务发送的变更消息，需要按照商品id去分区，固定的商品变更走固定的kafka分区，也就是固定的一个缓存服务实例获取到 ##

缓存服务，是监听kafka topic的，一个缓存服务实例，作为一个kafka consumer，就消费topic中的一个partition

所以你有多个缓存服务实例的话，每个缓存服务实例就消费一个kafka partition

所以这里，一般来说，你的源头信息服务，在发送消息到kafka topic的时候，都需要按照product id去分区

也就时说，同一个product id变更的消息一定是到同一个kafka partition中去的，也就是说同一个product id的变更消息，一定是同一个缓存服务实例消费到的

我们也不去做了，其实很简单，kafka producer api，里面send message的时候，多加一个参数就可以了，product id传递进去，就可以了

## 4、问题是，自己写的简易的hash分发，与kafka的分区，可能并不一致！！！ ##

我们自己写的简易的hash分发策略，是按照crc32去取hash值，然后再取模的

关键你又不知道你的kafka producer的hash策略是什么，很可能说跟我们的策略是不一样的

拿就可能导致说，数据变更的消息所到的缓存服务实例，跟我们的应用层nginx分发到的那个缓存服务实例也许就不在一台机器上了

这样的话，在高并发，极端的情况下，可能就会出现冲突

## 5、分布式的缓存重建并发冲突问题发生了。。。 ##

## 6、基于zookeeper分布式锁的解决方案 ##

分布式锁，如果你有多个机器在访问同一个共享资源，那么这个时候，如果你需要加个锁，让多个分布式的机器在访问共享资源的时候串行起来

那么这个时候，那个锁，多个不同机器上的服务共享的锁，就是分布式锁

分布式锁当然有很多种不同的实现方案，redis分布式锁，zookeeper分布式锁

zk，做分布式协调这一块，还是很流行的，大数据应用里面，hadoop，storm，都是基于zk去做分布式协调

zk分布式锁的解决并发冲突的方案

（1）变更缓存重建以及空缓存请求重建，更新redis之前，都需要先获取对应商品id的分布式锁  
（2）拿到分布式锁之后，需要根据时间版本去比较一下，如果自己的版本新于redis中的版本，那么就更新，否则就不更新  
（3）如果拿不到分布式锁，那么就等待，不断轮询等待，直到自己获取到分布式的锁

来自龙果学院讲师：中华石杉

发表评论取消回复

表情：

评论列表（有 0 条评论，169人围观）

还没有评论，来说两句吧...

相关阅读

相关 ZooKeeper 分布式锁

分布式锁分布式锁是控制分布式系统之间同步访问共享资源的一种方式。如果不同的系统或是同一个系统的不同主机之间共享了一个或一组资源，那么访问这些资源的时候，往往需要通过一些

╰半橙微兮°/ 2023年06月14日 13:57/ 0 赞/ 10 阅读

相关分布式锁原理——redis分布式锁，zookeeper分布式锁

首先分布式锁和我们平常讲到的锁原理基本一样，目的就是确保，在多个线程并发时，只有一个线程在同一刻操作这个业务或者说方法、变量。在一个进程中，也就是一个jvm 或者说应用中，

r囧r小猫/ 2023年02月23日 08:19/ 0 赞/ 12 阅读

相关亿级流量电商详情页系统实战-31.分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案

1.前言如果缓存服务在本地的ehcache中都读取不到数据，这个时候就意味着，需要重新到源头的服务中去拉去数据，拉取到数据之后，赶紧先给nginx的请求返回，同时将数据

缺乏、安全感/ 2022年10月29日 05:17/ 0 赞/ 119 阅读

相关 zookeeper分布式锁

分布式锁介绍分布式锁主要用于在分布式环境中保护跨进程、跨主机、跨网络的共享资源实现互斥访问，以达到保证数据的一致性。本文主要谈的是Zookeeper

本是古典何须时尚/ 2022年09月05日 01:41/ 0 赞/ 262 阅读

相关 zookeeper分布式锁以及集群

推荐zookeeper信息查看工具：zooInspector 一、zookeeper分布式锁 zookeeper分布式锁往往可以作为主从的管理方案，mycat

叁歲伎倆/ 2022年06月09日 02:13/ 0 赞/ 151 阅读

相关分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案（7）

分布式重建缓存的并发冲突问题重建缓存：比如我们这里，数据在所有的缓存中都不存在了（LRU算法弄掉了），就需要重新查询数据写入缓存，重建缓存分布式的重建缓存，在不同的

浅浅的花香味﹌/ 2022年05月31日 14:22/ 0 赞/ 170 阅读

相关 7.7 zookeeper分布式锁原理图

![70][] 1，每个文件节点都创建一个锁的概念的文件，文件是以sequential自增序列令名 2，每次选择执行节点的时候，都会获取最小的节点来执行 3，执行的节点执

╰半夏微凉°/ 2022年05月21日 07:26/ 0 赞/ 149 阅读

相关分布式锁原理-redis分布式锁，zookeeper分布式锁

首先分布式锁和我们平常讲到的锁原理基本一样，目的就是确保，在多个线程并发时，只有一个线程在同一刻操作这个业务或者说方法、变量。在一个进程中，也就是一个jvm 或者说应

一时失言乱红尘/ 2022年02月23日 06:04/ 0 赞/ 463 阅读

相关 Zookeeper分布式锁

> 大多数互联网系统都是分布式部署的，分布式部署确实能带来性能和效率上的提升，但为此，我们就需要多解决一个分布式环境下，数据一致性的问题在单机环境中，我们可以通过java提供

红太狼/ 2022年01月20日 01:59/ 0 赞/ 291 阅读

相关 Redis - 分布式锁实现以及相关问题解决方案

文章目录 Redis - 分布式锁实现以及相关问题解决方案 1.分布式锁是什么？ 1.1 分布式锁设计目的 1

青旅半醒/ 2021年12月19日 03:53/ 0 赞/ 258 阅读