同事半个月都没搞定缓存热点，我半个小时就给他整明白！顺手秀了一波解决方法

待我称王封你为后i 2022-10-11 06:20 113阅读 0赞

当数据库成为瓶颈时，比如高并发、读多写少等场景，我们首先会想到的就是利用**缓存**来提高整个系统的性能。

缓存虽然能够大大提升整个系统的性能，但同时也引入了更多复杂性。

如果没有针对缓存进行比较好的处理，某些场景下甚至会导致整个系统崩溃。

这次我们要聊的就是：缓存热点

### 缓存热点 ###

缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

虽然缓存本身的性能比较高，但对于一些特别热点的数据，如果大部分甚至所有的请求都命中同一份缓存数据，则这份数据所在的缓存服务器的压力也会很大。

比如，电商的爆品秒杀活动，短时间内被上千万的用户访问。

### 解决办法 ###

缓存热点的常用解决方法有两种：**复制多份缓存副本**和**本地内存缓存**。接下来我们详细了解一下这两种方法：

#### 复制多份缓存副本 ####

复制多份缓存副本，就是将请求分散到多个缓存服务器上，减轻缓存热点导致的单台缓存服务器压力。

以爆品秒杀活动为例，爆品数据都可以生成 100 个缓存数据，缓存的数据是一样的，在缓存的 key 里面加上编号进行区分，每次读缓存时都随机读取其中某个缓存。

在设计缓存副本的时候，有一个细节需要注意：不同的缓存副本不要设置统一的过期时间，否则就会出现所有缓存副本同时生成同时失效的情况，从而引发缓存的雪崩效应。

正确的做法是设定一个过期时间范围，不同的缓存副本的过期时间是指定范围内的随机值。

#### 本地内存缓存 ####

把热点数据缓存在客户端的本地内存中，并且设置一个失效时间。对于每次读请求，将首先检查该数据是否存在于本地缓存中，如果存在则直接返回，如果不存在再去访问分布式缓存的服务器。

与**复制多份缓存副本**比较，**本地内存缓存**彻底“解放”了缓存服务器，不会对缓存服务器有任何压力。

不过，**本地内存缓存**也有自己的缺点，假如缓存服务器中数据被被更新了，本地内存缓存没有及时更新，就导致数据不一致的情况。

因此，**本地内存缓存**的失效时间需要设置尽量短一些。

### 热点缓存的发现 ###

在前面的讨论中，我们预设了知道热点缓存有哪些，但是在大多数情况下，我们是无法知道哪些是热点缓存。

不过，我们可以使用以下方法及时发现热点缓存：

*  在客户端进行统计。在读取缓存时，加入数据统计的逻辑。当读取次数达到某个阈值时，判断其为热点缓存。
 *  在Proxy层进行统计。当读取缓存时有Proxy层时，可以在Proxy层加入数据统计的逻辑。
 *  使用缓存系统的自带工具。比如Redis性能分析工具redis-faina、redis-cli的hotkeys参数。

### 总结 ###

缓存热点是指大部分甚至所有的业务请求都命中同一份缓存数据。

常用的解决方法有两种：复制多份缓存副本，每个副本过期时间设置为指定范围内的随机值；本地内存缓存，缓存失效时间尽量设置短一些。

发表评论取消回复

表情：

评论列表（有 0 条评论，113人围观）

还没有评论，来说两句吧...

相关阅读

相关一个HashMap跟面试官扯了半个小时

一个HashMap能跟面试官扯上半个小时前言HashMap应该算是Java后端工程师面试的必问题，因为其中的知识点太多，很适合用来考察面试者的Java基础。开场面试官: ...

灰太狼/ 2024年04月29日 02:57/ 0 赞/ 66 阅读

相关半小时搞定的复习计划，居然拿到8个offer

你好，我是田哥很快又到了金三银四的黄金时段，很多人也开始萌发跳槽的想法，甚至有的人已经开始准备了。最近，我也陆续收到很多人的咨询：田哥，能不能发我一个学习路线，能快速复

短命女/ 2023年09月25日 14:38/ 0 赞/ 98 阅读

相关再过半小时，你就能明白kafka的工作原理了

为什么需要消息队列　　周末无聊刷着手机，某宝网APP突然蹦出来一条消息“为了回馈老客户，女朋友买一送一，活动仅限今天！”。买一送一还有这种好事，那我可不能错过！忍不住立

古城微笑少年丶/ 2022年12月22日 08:54/ 0 赞/ 114 阅读

相关同事3个月没搞明白Python，我一周就上手了......

![1a75971ea94564aeb06f65cb0e508f32.gif][]Python入门从哪开始，90%以上的书上都是这样讲的：先介绍 Python 的基本

傷城~/ 2022年11月08日 14:26/ 0 赞/ 150 阅读

相关同事半个月都没搞定缓存热点，我半个小时就给他整明白！顺手秀了一波解决方法

当数据库成为瓶颈时，比如高并发、读多写少等场景，我们首先会想到的就是利用缓存来提高整个系统的性能。缓存虽然能够大大提升整个系统的性能，但同时也引入了更多复杂性。如果没有

待我称王封你为后i/ 2022年10月11日 06:20/ 0 赞/ 114 阅读

相关同事一个礼拜都没搞定的缓存雪崩，我半个小时就给他整明白！顺手秀了一波解决方法

当数据库成为瓶颈时，比如高并发、读多写少等场景，我们首先会想到的就是利用缓存来提高整个系统的性能。缓存虽然能够大大提升整个系统的性能，但同时也引入了更多复杂性。如果没有

我不是女神ヾ/ 2022年10月06日 11:53/ 0 赞/ 109 阅读

相关同事一个星期都没搞定的缓存穿透，我半个小时就给他整明白！顺手秀了一波解决方法

当存储系统成为瓶颈时，比如高并发、读多写少等场景，我们首先会想到的就是利用缓存来提高整个系统的性能。缓存虽然能够大大提升整个系统的性能，但同时也引入了更多复杂性。如果没

超、凢脫俗/ 2022年10月06日 09:49/ 0 赞/ 126 阅读

相关搞定SourceInsight的半个汉字的问题

搞定SourceInsight的半个汉字的问题 “SourceInsight是一个面向项目开发的程序编辑器和代码浏览器，它拥有内置的对C/C++, C\和Java等程序的

末蓝、/ 2022年08月06日 07:26/ 0 赞/ 170 阅读

相关再过半小时，你就能明白kafka的工作原理了

为什么需要消息队列　　周末无聊刷着手机，某宝网APP突然蹦出来一条消息“为了回馈老客户，女朋友买一送一，活动仅限今天！”。买一送一还有这种好事，那我可不能错过！忍不住立

小灰灰/ 2022年01月23日 11:31/ 0 赞/ 176 阅读

相关阿里面试官没想到，一个CopyOnWriteArrayList，我都能跟他吹半小时

阿里面试官没想到，一个Java 的 CopyOnWriteArrayList，我都能跟他吹半小时，惊呆了。 > 先看再点赞，给自己一点思考的时间，微信搜索【沉默王二】关注这个

亦凉/ 2021年05月12日 11:50/ 0 赞/ 435 阅读