缓存模式（Cache Aside、Read Through、Write Through、Write Behind）

朴灿烈づ我的快乐病毒、 2021-09-07 06:00 521阅读 0赞

# 概览 #

缓存是一个有着更快的查询速度的存储技术，这里的更快是指比起从初始的数据源查询（比如数据库，以下都称作数据库）而言。我们经常会把频繁请求的或是耗时计算的数据缓存起来，在程序收到请求这些数据的时候可以直接从缓存中查询数据返回给客户端来提高系统的吞吐量，现在我们来看看有哪些缓存模式可以考虑。

# Cache-Aside #

`Cache-Aside`是最广泛使用的缓存模式之一，如果能正确使用`Cache-Aside`的话，能极大的提升应用性能，`Cache-Aside`可用来读或写操作。

## 读操作 ##

我们先来看下读操作的数据流：

*  1、程序接收数据查询的请求
 *  2、程序检查要查询的数据是否在缓存上
    
     *  如果存在（cache hit），从缓存上查询出来
     *  如果不存在（cache miss），从数据库中检索数据并存入缓存中
 *  3、程序返回要查询的数据

![Cache Aside][]

在Spring中，可如下实现，当`getRecordForSearch()`方法被调用的时候，如果缓存中存在对应key的数据，那就会自动的从缓存中获取（此时方法体不会被执行），当缓存中不存在key对应数据的时候，会执行方法体从数据库中查询数据并设置到缓存中去。

@Cacheable("default", key="#search.keyword)
    public Record getRecordForSearch(Search search)

## 更新操作 ##

如果程序需要更新数据库中的数据且该数据也在缓存上，此时缓存中的数据也需要做相应的处理。为了解决这个不同步的问题来确认数据的一致性和操作性能，有两个方式可按需使用。

### 缓存失效 ###

该情况下，当请求需要更新数据库数据的时候，缓存中的值需要被删除掉（删除掉就表示旧值不可用了），当下次该key被再次查询到就去数据库中查出最新的数据，在Spring中可实现如下：

@CacheEvict("default", key="#search.keyword)
    public Record updateRecordForSearch(Search search)

### 缓存更新 ###

缓存数据也可以在数据库更新的时候被更新，从而在一次操作中让之后的查询有更快的查询体验和更好的数据一致性，在Spring中可实现如下：

@CachePut("default", key="#search.keyword)
    public Record updateRecordForSearch(Search search)

**为了应对不用类型的数据需要，有以下缓存加载策略可被选择：**

*  **使用时加载缓存**：当需要使用缓存数据时，就从数据库中把它查询出来，第一次查询之后，接下来的请求都能从缓存中查询到数据。
 *  **预加载缓存**：在项目启动的时候，预加载类似“国家信息、货币信息、用户信息，新闻信息”等不是经常变更的数据。

# Read-Through #

`Read-Through`和`Cache-Aside`很相似，不同点在于程序不需要再去管理从哪去读数据（缓存还是数据库）。相反它会直接从缓存中读数据，该场景下是缓存去决定从哪查询数据。当我们比较两者的时候这是一个优势因为它会让程序代码变得更简洁。  
![Read Through][]

# Write-Through #

`Write-Through`下所有的写操作都经过缓存，每次我们向缓存中写数据的时候，缓存会把数据持久化到对应的数据库中去，且这两个操作都在一个事务中完成。因此，只有两次都写成功了才是最终写成功了。这的确带来了一些写延迟但是它保证了数据一致性。

同时，因为程序只和缓存交互，编码会变得更加简单和整洁，当你需要在多处复用相同逻辑的时候这点变的格外明显。

![Write Through][]

当使用`Write-Through`的时候一般都配合使用`Read-Through`。

`Write-Through`适用情况有：

*  需要频繁读取相同数据
 *  不能忍受数据丢失（相对`Write-Behind`而言）和数据不一致

**`Write-Through`的潜在使用例子是银行系统。**

# Write-Behind #

`Write-Behind`和`Write-Through`在“程序只和缓存交互且只能通过缓存写数据”这一点上很相似。不同点在于`Write-Through`会把数据立即写入数据库中，而`Write-Behind`会在一段时间之后（或是被其他方式触发）把数据一起写入数据库，这个异步写操作是`Write-Behind`的最大特点。

数据库写操作可以用不同的方式完成，其中一个方式就是收集所有的写操作并在某一时间点（比如数据库负载低的时候）批量写入。另一种方式就是合并几个写操作成为一个小批次操作，接着缓存收集写操作（比如5个）一起批量写入。

异步写操作极大的降低了请求延迟并减轻了数据库的负担。同时也放大了数据不一致的。比如有人此时直接从数据库中查询数据，但是更新的数据还未被写入数据库，此时查询到的数据就不是最新的数据。

# 总结 #

真实的系统中需求都不太一样，我们应该根据自己的需要来选择一个或组合几个模式来完成实现。

# 参考 #

*  [Cat In Code: Caching Strategies Overview][Cat In Code_ Caching Strategies Overview]
 *  [Things You Should Know About Database Caching][]
 *  [Microsoft docs: Cache-Aside pattern][Microsoft docs_ Cache-Aside pattern]
 *  [DZone: The Cache Aside Pattern][DZone_ The Cache Aside Pattern]
 *  [酷壳：缓存更新的套路][Link 1]
 *  [Cache Consistency with Database][]

\-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

[https://blog.csdn.net/qq\_30164225/article/details/100631021][https_blog.csdn.net_qq_30164225_article_details_100631021]

## 概述 ##

缓存是提高系统性能的最简单方法之一。相对而言，数据库（or NoSQL数据库）的速度比较慢，而速度却往往又是制胜的关键。如果使用得当，缓存可以减少相应时间、减少数据库负载以及节省成本。本文罗列了几种缓存策略，选择正确的一种会有很大的不同。**缓存策略取决于数据和数据访问模式**。换句话说，数据是如何写和读的。例如:

*  系统是写多读少的吗？(例如基于时间的日志)
 *  数据是否是只写入一次并被读取多次?(例如用户配置文件)
 *  返回的数据总是惟一的吗?(例如搜索查询)

选择正确的缓存策略是提高性能的关键。让我们快速了解一下各种缓存策略。

## 常用缓存策略 ##

### 第一种：Cache-Aside ###

这可能是最常用的缓存方法。缓存位于一边，应用程序直接与缓存和数据库对话。  
![cache-aside][]  
简要解释一下:

1.  应用程序首先检查缓存。
2.  如果在缓存中找到，表示已经命中缓存。数据被读取并返回给应用程序。
3.  如果在缓存中没有找到，则未命中缓存。应用程序必须做一些额外的工作，它需要查询数据库来读取数据，将数据返回给客户端，然后还要将数据存储在缓存中，这样对相同数据的后续读取可以命中缓存。

**Cache-aside策略特别适合读多的应用场景**。使用Cache-aside的系统对缓存失效具有一定的弹性。如果缓存集群宕机，系统仍然可以通过直接访问数据库进行操作。(不过，如果缓存在峰值负载期间下降，这也没有多大帮助。响应时间可能会变得很糟糕，最糟糕的情况是，数据库可能会停止工作。)

另一个优点在于缓存中的数据模型可以与数据库中的数据模型不同。例如，多个查询产生的响应可以存储在某个请求id上。

当使用cache-aside时，最常见的写策略是直接将数据写到数据库中。当这种情况发生时，缓存可能与数据库不一致。为了解决这个问题，开发人员通常会引入TTL，并继续提供陈旧的数据，直到TTL过期。如果必须保证数据的新鲜度，开发人员要么使缓存条目无效，要么使用适当的写策略，我们将在后面讨论。

### 第二种：Read-Though Cache ###

Read-though策略下的缓存与数据库保持一致。当缓存丢失时，它从数据库加载相应的数据，填充缓存并将其返回给应用程序（参考下图）。  
![在这里插入图片描述][format_png]  
cache-aside和read-through策略都是延迟加载数据的，也就是说，只在第一次读取数据时才加载数据。

虽然read-through和cache-aside非常相似，但至少有两个关键区别:

在cache-aside中，应用程序负责从数据库中获取数据并填充缓存。在read-through中，此逻辑通常由库或独立缓存提供程序支持。  
与cache-aside不同，read-through cache中的数据模型不能与数据库中的数据模型不同。  
当多次请求相同的数据时，\*\*read-through缓存最适合于读量较大的工作负载。\*\*例如，一个新闻故事。缺点是，当第一次请求数据时，它总是导致缓存丢失，并导致额外的数据加载到缓存的代价。开发人员通过手动发出查询来“预热”或“预热”缓存来处理这个问题。就像cache-aside一样，数据也可能在缓存和数据库之间变得不一致，而解决方案就在写策略中，我们将在接下来看到这一点。

### 第三种：Write-Through Cache ###

在这种写策略中，首先将数据写入缓存，然后写入数据库。缓存与数据库保持一致，写操作总是通过缓存到达主数据库。  
![在这里插入图片描述][format_png 1]

在这种写策略中，首先将数据写入缓存，然后写入数据库。缓存与数据库保持一致，写操作总是通过缓存到达主数据库。

就其本身而言，write-through缓存似乎没有多大作用，实际上，它们引入了额外的写延迟，因为数据先写到缓存，然后写到主数据库。但是，当与read-through结合使用时，我们获得了read-through的所有好处，还获得了数据一致性保证，使我们不必使用缓存失效技术。

DynamoDB Accelerator (DAX)是write-through / read-through cache的一个很好的例子。它与DynamoDB和应用程序内联。对DynamoDB的读写可以通过DAX完成。(附注：如果您计划使用DAX，请确保熟悉它的数据一致性模型以及它如何与DynamoDB交互。)

### 第四种 Write-Around ###

这种策略下，数据直接写入数据库，只有读取的数据才能进入缓存。Write-around可以与read-through结合使用，并在数据只写一次、读取次数较少或从不读的情况下提供良好的性能。例如，实时日志或聊天室消息。同样，这个模式也可以与cache-aside组合使用。

### 第五种 Write-Back ###

这种策略下，应用程序将数据写入缓存，缓存会立即确认，并在延迟一段时间后将数据写入数据库。有时这种策略也被称为write-behind。

![在这里插入图片描述][format_png 2]

Write-back缓存提高了写性能，对于写工作量大的工作负载非常有用。当与read-through相结合的时候，它对于混合工作负载非常有效，最近更新和访问的数据总是在缓存中可用。它对数据库故障具有很大程度上的弹性，可以容忍一些数据库的宕机。如果支持批处理或合并，则可以减少对数据库的总体写操作，这将减少负载并降低成本。

一些开发人员使用Redis时，同时采用了cache-aside和write-back两种策略，以便更好地吸收峰值负载期间的峰值。主要缺点是，如果缓存失效，数据可能会永久丢失。大多数关系数据库存储引擎(例如InnoDB)的内部都默认启用了回写缓存。查询首先写入内存，最后刷新到磁盘。

## 总结 ##

在本文中，我们探讨了不同的缓存策略及其优缺点。在实践中，请仔细评估您的目标，理解数据访问(读/写)模式，并选择最佳策略或组合策略。

如果你选错了怎么办?一个与你的目标或访问模式不匹配的?您可能会引入额外的延迟，或者至少没有看到全部的好处。例如，如果在实际应该使用write-around/read-through时选择write-through/read-through(访问写入数据的频率较低)，那么缓存中就会有无用的垃圾。可以说，如果缓存足够大，它可能没问题。但在许多实际的高吞吐量系统中，当内存永远不够大并且需要考虑服务器成本时，正确的策略很重要。

[Cache Aside]: /images/20210527/5df80c43cb9a4886902c90f5482877ba.png
[Read Through]: /images/20210527/20db0b64f63a44028158dc3cc2cee055.png
[Write Through]: /images/20210527/b0b6c596058f4939ae236b2ee2fefb95.png
[Cat In Code_ Caching Strategies Overview]: https://catsincode.com/caching-strategy/
[Things You Should Know About Database Caching]: https://blog.bluzelle.com/things-you-should-know-about-database-caching-2e8451656c2d
[Microsoft docs_ Cache-Aside pattern]: https://docs.microsoft.com/en-us/azure/architecture/patterns/cache-aside
[DZone_ The Cache Aside Pattern]: https://dzone.com/articles/cache-aside-pattern
[Link 1]: https://coolshell.cn/articles/17416.html
[Cache Consistency with Database]: https://danielw.cn/cache-consistency-with-database#concepts
[https_blog.csdn.net_qq_30164225_article_details_100631021]: https://blog.csdn.net/qq_30164225/article/details/100631021
[cache-aside]: /images/20210527/649b5117052949f0aaa61aa2cb1ef56a.png
[format_png]: /images/20210527/10aa370fe542408f813d006e103595a6.png
[format_png 1]: /images/20210527/0607c04c9ab14b81aebba8f503b723d1.png
[format_png 2]: /images/20210527/4be360e277be4081a743a6bf24e1139f.png