Redis性能测试---Redis内存碎片率

梦里梦外; 2021-11-05 19:08 468阅读 0赞

一、 内存碎片率  
mem\_fragmentation\_ratio = used\_memory\_rss / used\_memory  
used\_memory ：Redis使用其分配器分配的内存大小  
used\_memory\_rss ：操作系统分配给Redis实例的内存大小，表示该进程所占物理内存的大小  
两者包括了实际缓存占用的内存和Redis自身运行所占用的内存，used\_memory\_rss指标还包含了内存碎片的开销，内存碎片是由操作系统低效的分配/回收物理内存导致的。  
mem\_fragmentation\_ratio < 1 表示Redis内存分配超出了物理内存，操作系统正在进行内存交换，内存交换会引起非常明显的响应延迟；  
mem\_fragmentation\_ratio > 1 是合理的；  
mem\_fragmentation\_ratio > 1.5 说明Redis消耗了实际需要物理内存的150%以上，其中50%是内存碎片率，可能是操作系统或Redis实例中内存管理变差的表现

二、 内存碎片率高的原因  
遇到变长key-value负载：存储的数据长短差异较大，频繁更新，redis的每个k-v对初始化的内存大小是最适合的，当修改的value改变的并且原来内存大小不适用的时候，就需要重新分配内存。重新分配之后，就会有一部分内存redis无法正常回收，一直占用着。  
maxmemory限制导致key被回收删除  
redis写入大量数据，这些数据的key和原来的数据很多不一致，数据超过maxmemory限制后redis会通过key的回收策略将部分旧数据淘汰，而被淘汰的数据本身占用的内存却没有被redis进程释放，导致redis内存的有效数据虽然没有超过最大内存，但是整个进程的内存在一直增长  
info信息中的evicted\_keys字段显示的是，因为maxmemory限制导致key被回收删除的数量  
key经常需要回收，会使客户端命令响应延迟时间增加，因为Redis不但要处理客户端过来的命令请求，还要频繁的回收满足条件的key  
三、 解决方法  
限制内存交换： 如果内存碎片率低于1，Redis实例可能会把部分数据交换到硬盘上，应该增加可用物理内存或减少实Redis内存占用，设置maxmemory和回收策略可以避免强制内存交换  
重启Redis服务器：如果内存碎片率超过1.5，重启Redis服务器可以让额外产生的内存碎片失效并重新作为新内存来使用，使操作系统恢复高效的内存管理。额外碎片的产生是由于Redis释放了内存块，但内存分配器并没有返回内存给操作系统  
内存碎片清理：Redis 4.0-RC3 以上版本，使用jemalloc作为内存分配器(默认的) 支持内存碎片清理  
支持在运行期进行自动内存碎片清理  
设置自动清理 config set activedefrag yes，使用config rewrite 将redis内存中新配置刷新到配置文件  
支持通过命令 memory purge 进行手动清理(与自动清理区域不同)

\-------------------------------------------------------------------------------------------

info信息中的mem\_fragmentation\_ratio给出了内存碎片率的数据指标，它是由操系统分配的内存除以Redis分配的内存得出：

used\_memory和used\_memory\_rss数字都包含的内存分配有：

*  用户定义的数据：内存被用来存储key-value值。
 *  内部开销： 存储内部Redis信息用来表示不同的数据类型。

used\_memory\_rss的rss是Resident Set Size的缩写，表示该进程所占物理内存的大小，是操作系统分配给Redis实例的内存大小。除了用户定义的数据和内部开销以外，used\_memory\_rss指标还包含了内存碎片的开销，内存碎片是由操作系统低效的分配/回收物理内存导致的。  
操作系统负责分配物理内存给各个应用进程，Redis使用的内存与物理内存的映射是由操作系统上虚拟内存管理分配器完成的。  
举个例子来说，Redis需要分配连续内存块来存储1G的数据集，这样的话更有利，但可能物理内存上没有超过1G的连续内存块，那操作系统就不得不使用多个不连续的小内存块来分配并存储这1G数据，也就导致内存碎片的产生。  
内存分配器另一个复杂的层面是，它经常会预先分配一些内存块给引用，这样做会使加快应用程序的运行。

### 理解资源性能 ###

跟踪内存碎片率对理解Redis实例的资源性能是非常重要的。内存碎片率稍大于1是合理的，这个值表示内存碎片率比较低，也说明redis没有发生内存交换。但如果内存碎片率超过1.5，那就说明Redis消耗了实际需要物理内存的150%，其中50%是内存碎片率。若是内存碎片率低于1的话，说明Redis内存分配超出了物理内存，操作系统正在进行内存交换。内存交换会引起非常明显的响应延迟，可查看used\_memory介绍章节。

上图中的0.99即99%。

### 用内存碎片率预测性能问题 ###

倘若内存碎片率超过了1.5，那可能是操作系统或Redis实例中内存管理变差的表现。下面有3种方法解决内存管理变差的问题，并提高Redis性能：

**1. 重启Redis服务器：**如果内存碎片率超过1.5，重启Redis服务器可以让额外产生的内存碎片失效并重新作为新内存来使用，使操作系统恢复高效的内存管理。额外碎片的产生是由于Redis释放了内存块，但内存分配器并没有返回内存给操作系统，这个内存分配器是在编译时指定的，可以是libc、jemalloc或者tcmalloc。 通过比较used\_memory\_peak, used\_memory\_rss和used\_memory\_metrics的数据指标值可以检查额外内存碎片的占用。从名字上可以看出，used\_memory\_peak是过去Redis内存使用的峰值，而不是当前使用内存的值。如果used\_memory\_peak和used\_memory\_rss的值大致上相等，而且二者明显超过了used\_memory值，这说明额外的内存碎片正在产生。 在Redis-cli工具上输入info memory可以查看上面三个指标的信息：

在重启服务器之前，需要在Redis-cli工具上输入shutdown save命令，意思是强制让Redis数据库执行保存操作并关闭Redis服务，这样做能保证在执行Redis关闭时不丢失任何数据。 在重启后，Redis会从硬盘上加载持久化的文件，以确保数据集持续可用。

**2.限制内存交换：** 如果内存碎片率低于1，Redis实例可能会把部分数据交换到硬盘上。内存交换会严重影响Redis的性能，所以应该增加可用物理内存或减少实Redis内存占用。 可查看used\_memory章节的优化建议。

**3.修改内存分配器：**  
Redis支持glibc’s malloc、jemalloc11、tcmalloc几种不同的内存分配器，每个分配器在内存分配和碎片上都有不同的实现。不建议普通管理员修改Redis默认内存分配器，因为这需要完全理解这几种内存分配器的差异，也要重新编译Redis。这个方法更多的是让其了解Redis内存分配器所做的工作，当然也是改善内存碎片问题的一种办法。