分布式缓存Redis之持久化

秒速五厘米 2022-05-10 06:10 162阅读 0赞

### 写在前面 ###

本学习教程所有示例代码见GitHub：[https://github.com/selfconzrr/Redis\_Learning][https_github.com_selfconzrr_Redis_Learning]

Redis 可以持久化，当做Cache时持久化的意义在哪？

持久化的意思就是说服务器重启之后，缓存依然存在，内存类型的缓存，服务器重启后就不存在了。比如使用持久化的方案做登录Session，服务器重启后用户不用再次登录，而一般内存方案需要再次登录。

Redis是一个支持持久化的内存数据库，且数据都是放在内存中的，也就是说Redis需要经常将内存中的数据同步到磁盘来保证持久化（防止数据丢失）。持久化是使用RDB方式或者AOF方式。

RDB持久化：可以在指定的时间间隔内生成数据集的时间点快照；

AOF持久化：记录服务器执行的所有写操作命令，并在服务器启动时，通过重新执行这些命令来还原数据集，AOF文件中全部以Redis协议的格式来保存，新命令会被追加到文件的末尾，Redis还可以在后台对AOF文件进行重写，文件的体积不会超出保存数据集状态所需要的实际大小。

Redis还可以同时使用AOF持久化和RDB持久化，在这种情况下，当Redis重启时，它会优先使用AOF文件来还原数据集，**因为AOF文件保存的数据集通常比RDB文件所保存的数据集更加完整**。

### RDB ###

概念

也叫SNAPSHOTTING模式，**快照是默认的持久化方式**。这种方式是就是将内存中数据以快照的方式写入到二进制文件中，默认的文件名为dump.rdb（**如果需要恢复数据，只需将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可**）。可以通过配置设置自动做快照持久化的方式。我们可以配置redis在n秒内如果超过m个key被修改就自动做快照，下面是默认的快照保存配置

save 900 1  #900秒内如果超过1个key被修改，则发起快照保存
    save 300 10 #300秒内容如超过10个key被修改，则发起快照保存
    save 60 10000 #60秒内容如超过10000个key被修改，则发起快照保存

client 也可以使用**save**或者**bgsave**命令手动通知redis做一次快照持久化。**save操作是在主线程中保存快照的**，由于redis是用一个主线程来处理所有 client的请求，这种方式会阻塞所有client请求。所以**不推荐使用**。

几个常用命令
    save：#手动将数据同步保存到磁盘
    bgsave：#手动将数据异步保存到磁盘，后台执行
    lastsave：#返回上次成功将数据保存到磁盘的Unix时戳
    shundown：#将数据同步保存到磁盘，然后关闭服务

而一个持续写入的数据库如何生成快照呢。Redis借助了fork命令的copy on write机制。在生成快照时，将当前进程fork出一个子进程，然后在子进程中循环所有的数据，将数据写成为RDB文件。

另一点需要注意的是，每次快照持久化都是将内存数据完整写入到磁盘一次，并不是增量的只同步脏数据。如果数据量大的话，而且写操作比较多，必然会引起大量的磁盘io操作，可能会严重影响性能。

而且由于快照方式是在一定间隔时间做一次的，所以如果redis意外down掉的话，就会丢失最后一次快照后的所有修改。如果应用要求不能丢失任何修改的话，必须采用AOF持久化方式。

快照的运作方式/工作原理

1.  Redis调用fork()，产生一个子进程。
2.  父进程继续处理client请求，子进程把内存数据写到一个临时的RDB文件。由于os的写时复制机制（copy on write)父子进程会共享相同的物理页面，当父进程处理写请求时os会为父进程要修改的页面创建副本，而不是写共享的页面。所以子进程的地址空间内的数据是fork时刻整个数据库的一个快照。
3.  当子进程将快照写入临时文件完毕后，用临时文件替换原来的快照文件，然后子进程退出

优点

1.  RDB 是一个非常**紧凑**（compact）的文件，它保存了 Redis 在某个时间点上的数据集。 这种文件非常适合用于进行备份： 比如说，你可以在最近的 24 小时内，每小时备份一次 RDB 文件，并且在每个月的每一天，也备份一个 RDB 文件。 这样的话，即使遇上问题，也可以随时将数据集还原到不同的版本。
2.  RDB 非常适用于**灾难恢复**（disaster recovery）：它只有一个文件，并且内容都非常紧凑，可以（在加密后）将它传送到别的数据中心。
3.  RDB 可以最大化 Redis 的性能：父进程在保存 RDB 文件时唯一要做的就是 fork 出一个子进程，然后这个子进程就会处理接下来的所有保存工作，**父进程无须执行任何磁盘 I/O 操作**。
4.  RDB 在**恢复大数据集时的速度比 AOF 的恢复速度要快**。

缺点

1.  如果你需要尽量避免在服务器故障时丢失数据，那么 RDB 不适合你。 虽然 Redis 允许你设置不同的保存点（save point）来控制保存 RDB 文件的频率。但是， 因为RDB 文件需要保存整个数据集的状态， 所以它并不是一个轻松的操作。 因此你可能会至少 5 分钟才保存一次 RDB 文件。 在这种情况下， 一旦发生故障停机， 你就可能会丢失好几分钟的数据。
2.  每次保存 RDB 的时候，Redis 都要 fork() 出一个子进程，并由子进程来进行实际的持久化工作。 在数据集比较庞大时， **fork()可能会非常耗时**，造成服务器在xx毫秒内停止处理客户端； 如果数据集非常巨大，并且 CPU 时间非常紧张的话，那么这种停止时间甚至可能会长达整整一秒。 **虽然 AOF 重写也需要进行 fork() ，但无论 AOF 重写的执行间隔有多长，数据的耐久性都不会有任何损失**。

### AOF ###

概念

AOF日志的全称是Append Only File，从名字上我们就能看出来，它是一个追加写入的日志文件。与一般数据库不同的是，**AOF文件是可识别的纯文本**，它的内容就是一个个的Redis标准命令。**AOF比快照方式有更好的持久化性，是由于在使用AOF持久化方式时，redis会将每一个收到的写命令都通过write函数追加到文件中**(默认是appendonly.aof)。

当redis重启时会通过重新执行文件中保存的写命令来在内存中重建整个数据库的内容。当然由于os会在内核中缓存 write做的修改，所以可能不是立即写到磁盘上。这样AOF方式的持久化也还是有可能会丢失部分修改。不过我们可以**通过配置文件告诉redis我们想要通过fsync函数强制os写入到磁盘的时机**。有三种方式如下（默认是：每秒fsync一次）：

appendonly yes       #启用aof持久化方式
    appendfsync always   #每次收到写命令就立即强制写入磁盘，最慢的，但是保证完全的持久化，不推荐使用
    appendfsync everysec #每秒钟强制写入磁盘一次，在性能和持久化方面做了很好的折中，推荐
    appendfsync no    #完全依赖os，性能最好,持久化没保证

使用 Redis 附带的 redis-check-aof 程序，对原来的 AOF 文件进行修复。

$ redis-check-aof --fix

AOF的运作方式/工作原理

1.  redis调用fork ，现在有父子两个进程；
2.  子进程根据内存中的数据库快照，往临时文件中写入重建数据库状态的命令；
3.  父进程继续处理client请求，除了把写命令写入到原来的AOF文件中，同时把收到的写命令缓存起来。这样就能保证如果子进程重写失败的话并不会出问题；
4.  当子进程把快照内容写入已命令方式写到临时文件中后，子进程发信号通知父进程。然后父进程把缓存的写命令也写入到临时文件；
5.  现在父进程可以使用临时文件替换老的AOF文件，并重命名，后面收到的写命令也开始往新的AOF文件中追加。

日志重写

**随着写操作的不断增加，AOF文件会越来越大**。例如你递增一个计数器100次，那么最终结果就是数据集里的计数器的值为最终的递增结果，但是AOF文件里却会把这100次操作完整的记录下来。而事实上要恢复这个记录，只需要1个命令就行了，也就是说AOF文件里那100条命令其实可以精简为1条。所以Redis支持这样一个功能：**在不中断服务的情况下在后台重建AOF文件**。

工作原理如下：

*  Redis调用fork()，产生一个子进程。
 *  子进程把新的AOF写到一个临时文件里。
 *  主进程持续把新的变动写到内存里的buffer，同时也会把这些新的变动写到旧的AOF里，这样即使重写失败也能保证数据的安全。
 *  当子进程完成文件的重写后，主进程会获得一个信号，然后把内存里的buffer追加到子进程生成的那个新AOF里。

优点

1.  使用 AOF 持久化会让 Redis 变得非常耐久（much more durable）：你可以设置不同的fsync策略，比如无fsync，每秒钟一次fsync，或者每次执行写入命令时fsync。 AOF 的默认策略为每秒钟 fsync 一次，在这种配置下，Redis 仍然可以保持良好的性能，并且就算发生故障停机，也最多只会丢失一秒钟的数据（ fsync 会在后台线程执行，所以主线程可以继续努力地处理命令请求）。
2.  AOF 文件是一个只进行追加操作的日志文件（append only log）， 因此对 AOF 文件的写入不需要进行 seek ， 即使日志因为某些原因而包含了未写入完整的命令（比如写入时磁盘已满，写入中途停机，等等）， redis-check-aof 工具也可以轻易地修复这种问题。
3.  Redis 可以在 AOF 文件体积变得过大时，**自动地在后台对 AOF 进行重写**（BGREWRITEAOF 命令）： 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 **整个重写操作是绝对安全的，因为 Redis 在创建新 AOF 文件的过程中，会继续将命令追加到现有的 AOF 文件里面，即使重写过程中发生停机，现有的 AOF 文件也不会丢失**。 而一旦新 AOF 文件创建完毕，Redis 就会从旧 AOF 文件切换到新 AOF 文件，并开始对新 AOF 文件进行追加操作。
4.  **AOF 文件有序地保存了对数据库执行的所有写入操作**， 这些写入操作以 Redis 协议的格式保存， 因此 AOF文件的内容非常容易被人读懂， 对文件进行分析（parse）也很轻松。 导出（export） AOF 文件也非常简单： **举个例子**， 如果你不小心执行了 FLUSHALL 命令， 但只要 AOF 文件未被重写， 那么只要停止服务器， 移除 AOF 文件末尾的 FLUSHALL 命令， 并重启 Redis ， 就可以将数据集恢复到 FLUSHALL 执行之前的状态。

缺点

1.  对于相同的数据集来说，AOF 文件的体积通常要大于 RDB 文件的体积。
2.  根据所使用的 fsync 策略，AOF 的速度可能会慢于 RDB 。 在一般情况下， 每秒 fsync 的性能依然非常高， 而关闭 fsync 可以让 AOF 的速度和 RDB 一样快， 即使在高负荷之下也是如此。 不过在处理巨大的写入载入时，RDB 可以提供更有保证的最大延迟时间（latency）。
3.  AOF 在过去曾经发生过这样的 bug ： 因为个别命令的原因，导致 AOF 文件在重新载入时，无法将数据集恢复成保存时的原样。 （举个例子，阻塞命令 BRPOPLPUSH 就曾经引起过这样的 bug ） 测试套件里为这种情况添加了测试： 它们会自动生成随机的、复杂的数据集， 并通过重新载入这些数据来确保一切正常。 虽然这种 bug 在 AOF 文件中并不常见， 但是对比来说， RDB 几乎是不可能出现这种 bug 的。

### RDB 和 AOF ,我应该用哪一个？ ###

RDB和AOF操作都是顺序IO操作，性能都很高。而同时在通过RDB文件或者AOF日志进行数据库恢复的时候，也是顺序的读取数据加载到内存中，所以也不会造成磁盘的随机读。一般来说，如果想达到足以媲美 **PostgreSQL** 的数据安全性， 你**应该同时使用两种持久化功能**。如果你非常关心你的数据，但仍然可以承受数分钟以内的数据丢失， 那么你可以只使用 RDB 持久化。有很多用户都只使用 AOF 持久化， 但我们并不推荐这种方式： 因为定时生成 RDB 快照（snapshot）非常便于进行数据库备份， 并且 RDB 恢复数据集的速度也要比 AOF 恢复的速度要快， 除此之外， 使用 RDB 还可以避免之前提到的 AOF 程序的 bug。**在数据恢复方面：RDB的启动时间会更短**，原因有两个：

*  一是RDB文件中每一条数据只有一条记录，不会像AOF日志那样可能有一条数据的多次操作记录。所以每条数据只需要写一次就行了。
 *  另一个原因是**RDB文件的存储格式和Redis数据在内存中的编码格式是一致的**，不需要再进行数据编码工作，所以在CPU消耗上要远小于AOF日志的加载。

### RDB 和 AOF 之间的相互作用: ###

在版本号大于等于 2.4 的 Redis 中， BGSAVE 执行的过程中， 不可以执行 BGREWRITEAOF 。 反过来说， 在 BGREWRITEAOF 执行的过程中， 也不可以执行 BGSAVE 。这可以防止两个 Redis 后台进程同时对磁盘进行大量的 I/O 操作。

如果 BGSAVE 正在执行， 并且用户显示地调用 BGREWRITEAOF 命令， 那么服务器将向用户回复一个 OK 状态， 并告知用户， BGREWRITEAOF 已经被预定执行： 一旦 BGSAVE 执行完毕， BGREWRITEAOF 就会正式开始。

当 Redis 启动时， 如果 RDB 持久化和 AOF 持久化都被打开了， **那么程序会优先使用 AOF 文件来恢复数据集， 因为 AOF 文件所保存的数据通常是最完整的**。

### 和其它数据库的比较 ###

在Redis开启AOF的情况下，其单机数据安全性并不比这些成熟的SQL数据库弱。

在数据导入方面的比较

这些持久化的数据有什么用，当然是用于重启后的数据恢复。Redis是一个内存数据库，无论是RDB还是AOF，都只是其保证数据恢复的措施。所以 Redis在利用RDB和AOF进行恢复的时候，都会读取RDB或AOF文件，重新加载到内存中。相对于MySQL等数据库的启动时间来说，会长很多，因为MySQL本来是不需要将数据加载到内存中的。

但是相对来说，MySQL启动后提供服务时，**其被访问的热数据也会慢慢加载到内存中，通常我们称之为预热**，而在预热完成前，其性能都不会太高。而Redis的好处是一次性将数据加载到内存中，一次性预热。这样只要Redis启动完成，那么其提供服务的速度都是非常快的。

### 注意： ###

上面说了RDB快照的持久化，需要注意：在进行快照的时候（save），fork出来进行dump操作的子进程会占用与父进程一样的内存，真正的copy-on-write对性能的影响和内存的耗用都是比较大的。比如机器8G内存，Redis已经使用了6G内存，这时save的话会再生成6G，变成12G，大于系统的8G，这时候会发生**交换**；要是虚拟内存不够则会崩溃，导致数据丢失。**所以在用redis做持久化的时候一定要对系统内存做好容量规划**。

目前，通常的设计思路是利用**Replication机制**来弥补AOF、snapshot性能上的不足，达到了数据可持久化。即**Master上Snapshot和AOF都不做，来保证Master的读写性能，而Slave上则同时开启Snapshot和AOF来进行持久化**，保证数据的安全性。

### 无持久化： ###

我们可以通过配置的方式禁用Redis服务器的持久化功能，这样我们就可以将Redis视为一个功能加强版的memcached了。

\--------------------- 本文来自 BugFree\_张瑞 的CSDN 博客 ，全文地址请点击：https://blog.csdn.net/u011489043/article/details/78760074?utm\_source=copy

[https_github.com_selfconzrr_Redis_Learning]: https://github.com/selfconzrr/Redis_Learning