性能文章>【全网首发】深入剖析Redis持久化机制>

【全网首发】深入剖析Redis持久化机制原创

1年前
297135

image.png

1. 为什么要持久化

Redis是基于内存存储的数据库,如果遇到服务重启或者崩溃,内存中的数据将会被清空。所以为了确保数据安全性和可靠性,我们需要将内存中的数据持久化到磁盘上。

持久化不仅可以防止由于系统故障、重启或者其他原因导致的数据丢失。还可以用于备份、数据恢复和迁移等操作。

2. Redis持久化机制概述

Redis提供了两种主要的持久化机制:RDB持久化和AOF持久化。此外,还可以采用混合持久化(RDB + AOF)的方式,将这两种持久化方式结合在一起。下面我们简要概述这些持久化机制。

2.1 RDB持久化

RDB(Redis DataBase)持久化是一种基于快照的持久化方式。在指定的时间间隔内,如果满足一定条件(如某段时间内发生的写操作次数),Redis会生成一个包含当前内存数据的RDB文件。这个RDB文件可以用于数据恢复或备份。RDB持久化提供了较高的数据压缩率和快速的数据加载速度,但可能存在一定程度的数据丢失。

2.2 AOF持久化

AOF(Append Only File)持久化是一种基于日志的持久化方式。Redis将所有的写操作命令记录到一个AOF文件中。当Redis重新启动时,可以通过重放AOF文件中的命令来恢复数据。AOF持久化提供了更高的数据安全性,可以保证数据的完整性。然而,与RDB持久化相比,AOF文件通常较大,数据加载速度较慢。

2.3 混合持久化(RDB + AOF)

混合持久化结合了RDB持久化和AOF持久化的优点,可以在保证数据安全性的同时,提供较快的数据加载速度。在这种持久化方式下,Redis会同时生成RDB文件和AOF文件。当Redis重新启动时,优先使用AOF文件恢复数据,以确保数据的完整性。混合持久化适用于对数据安全性和性能要求较高的场景。

3. RDB持久化

3.1 RDB持久化原理

RDB持久化是基于快照的持久化,把当前时刻全量数据持久化到磁盘上,最终生成一个RBD文件。

3.2 RDB持久化触发方式

RDB持久化可以通过以下几种方式触发:

  1. 手动触发:使用SAVEBGSAVE命令。SAVE是同步命令,执行过程中会阻塞其他请求。BGSAVE是异步命令,主进程会forks一个子进程,进行异步持久化,持久化过程中主进程仍然可以处理其他请求。

  2. 自动触发:在配置文件中设置触发条件,redis.conf配置如下:

    # 900s内至少有一次写操作
    save 900 1
    # 300s内至少有1次写操作
    save 300 10
    # 60s内至少有10000次写操作
    save 60 10000
    
  3. 关闭Redis时触发:Redis在关闭服务时会自动触发一次RDB持久化。

  4. 主从同步时触发:当从节点连接到主节点时,主节点会触发一次RDB持久化,并将生成的RDB文件发送给从节点进行同步。

3.3 RDB持久化优缺点

RDB持久化具有以下优点:

  1. 高性能:由于采用子进程进行磁盘操作,主进程无需进行磁盘IO,保证了Redis的高性能。
  2. 快速恢复:RDB文件包含了某一时刻的完整数据快照,可以快速恢复数据。
  3. 更小的存储空间:RDB文件经过压缩,占用较小的磁盘空间。

RDB持久化的缺点包括:

  1. 数据丢失:由于RDB持久化是基于时间间隔的,可能存在一定程度的数据丢失。
  2. 子进程占用内存:在生成RDB文件过程中,子进程会占用和主进程相同的内存空间,可能导致内存不足的问题。

4. AOF持久化

4.1 AOF持久化原理

AOF(Append Only File)持久化是一种基于日志的持久化方式。Redis将所有的写操作命令追加到一个AOF文件中。当Redis重新启动时,可以通过重放AOF文件中的命令来恢复数据。

4.2 AOF持久化配置

AOF持久化的配置主要包括以下几个方面:

  1. 启用AOF持久化:在配置文件中设置appendonly yes

    # 开启aof持久化
    appendonly yes
    
    # aof文件名
    appendfilename "appendonly.aof"
    
  2. AOF文件同步策略:在配置文件中设置appendfsync选项。可选值包括:

    • always:每次写操作都同步到磁盘,保证最高的数据安全性,但性能较差。
    • everysec:每秒同步一次磁盘,提供较好的数据安全性和性能平衡。
    • no:由操作系统决定何时同步磁盘,性能最好,但数据安全性较差。
    # 持久化策略,always表示每次写入都进行持久化
    appendfsync always
    
  3. AOF重写策略:在redis.conf文件中进行配置,控制AOF重写的触发条件。

    # 指定在执行BGSAVE或BGREWRITEAOF命令时是否禁用AOF文件同步。默认为yes,表示禁用同步。
    no-appendfsync-on-rewrite yes
    
    # 定AOF文件大小增长到原始大小的百分比时进行重写。
    # 默认为100,表示AOF文件大小增长到原始大小的两倍时进行重写。
    auto-aof-rewrite-percentage 100
    
    # 指定进行AOF重写的最小AOF文件大小。默认为64mb。
    auto-aof-rewrite-min-size 64
    

4.3 AOF重写(Rewrite)

随着写操作的不断进行,AOF文件会不断增长。为了减小AOF文件的大小,Redis提供了AOF重写功能。AOF重写会创建一个新的AOF文件,只包含当前内存中数据的最小命令集。在重写过程中,Redis会继续将新的写操作追加到原始AOF文件中。当重写完成后,新的AOF文件将替换原始AOF文件。

可以手动执行bgrewriteaof命令,触发AOF重写。

redis> bgrewriteaof

4.4 AOF持久化优缺点

AOF持久化具有以下优点:

  1. 更高的数据安全性:根据同步策略的选择,AOF持久化可以保证较高的数据安全性。
  2. 更好的容错性:即使AOF文件存在部分损坏,仍可以恢复大部分数据。

AOF持久化的缺点包括:

  1. 较大的存储空间:与RDB持久化相比,AOF文件通常较大,占用较多磁盘空间。
  2. 数据加载速度较慢:由于需要重放AOF文件中的命令,数据恢复速度相对较慢。

5. 混合持久化

RDB持久化加载速度快,AOF持久化数据更安全,有没有一种持久化方式结合两者的优点?

当然有,就是混合持久化。

5.1 混合持久化原理

Redis首先使用RDB持久化将内存中的数据快照存储到磁盘上,然后再使用AOF持久化将所有新的写操作追加到AOF文件中。这样做的好处是:

  1. 在系统崩溃时,可以通过RDB文件进行快速的恢复,而AOF文件可以用于恢复最近的修改。
  2. RDB持久化可以减少AOF文件的大小,从而减少磁盘空间的使用。
  3. 在RDB持久化中,Redis可以使用子进程来将快照写入磁盘,这样可以避免主进程的阻塞。

5.2 混合持久化优缺点

混合持久化具有以下优点:

  1. 高数据安全性:结合了AOF持久化的高数据安全性。
  2. 快速恢复:利用RDB持久化的快速数据恢复速度。
  3. 提高从节点同步效率:利用RDB文件进行快速同步。

混合持久化的缺点包括:

较大的存储空间:需要同时维护RDB文件和AOF文件,可能占用较多的磁盘空间。

5.3 混合持久化应用场景

混合持久化适用于对数据安全性和性能要求较高的场景,尤其是在以下情况:

  1. 需要确保数据完整性,不能容忍数据丢失。
  2. 需要快速恢复数据,以减少故障恢复时间。
  3. 需要提高主从同步效率,以保证高可用性和负载均衡。

6. 持久化方案选择

6.1 持久化方式对比

持久化方式 RDB AOF
原理 通过定期生成数据快照实现持久化 通过记录所有写操作命令实现持久化
数据安全性 可能会丢失最近一次快照以来的数据 更高,可通过配置同步策略降低数据丢失风险
恢复速度 较快,因为RDB文件是一个数据快照 较慢,需要逐条执行AOF文件中的命令
存储空间 一般较小,因为RDB文件经过压缩 一般较大,但可以通过AOF重写减小文件大小
性能影响 较小,因为快照生成过程较短 可能较大,但可通过配置同步策略降低性能影响
主从同步 使用RDB文件进行同步,同步速度较快 使用AOF文件进行同步,同步速度可能较慢
应用场景 适用于对数据安全性要求较低、恢复速度要求较高的场景 适用于对数据安全性要求较高、可接受较慢恢复速度的场景

如果同时开启了RDB和AOF持久化,Redis优先使用AOF持久化,因为AOF持久化可以保证更高的数据安全性和灵活性,而RDB持久化适用于数据恢复的场景。

6.2 持久化方案选择

在选择Redis持久化方案时,需要根据实际业务需求和场景权衡各个方案的优缺点。

  1. 数据安全性要求:如果你的业务对数据安全性要求较高,建议使用AOF持久化或混合持久化。AOF持久化可以通过设置同步策略来保证不同程度的数据安全性。
  2. 数据恢复速度:如果你的业务需要快速恢复数据,以减少故障恢复时间,建议使用RDB持久化或混合持久化。RDB文件包含某一时刻的完整数据快照,可以快速恢复数据。
  3. 存储空间考虑:如果磁盘空间有限,可以考虑使用RDB持久化,因为RDB文件经过压缩,占用较小的磁盘空间。然而,如果数据安全性要求较高,可以考虑使用混合持久化,尽管这会增加存储空间的占用。
  4. 主从同步效率:如果你使用了Redis主从架构,需要考虑主从同步效率。混合持久化可以利用RDB文件进行快速同步,提高从节点的同步效率。
  5. 性能考虑:RDB持久化和混合持久化可以在很大程度上保持Redis的高性能。如果选择AOF持久化,请选择合适的同步策略以平衡性能和数据安全性。

7. 总结

本文介绍了Redis的三种持久化机制:RDB持久化、AOF持久化和混合持久化。RDB持久化通过定期生成数据快照实现持久化,具有快速恢复和更小的存储空间等优点,但可能存在数据丢失和子进程占用内存等缺点。AOF持久化通过记录所有写操作命令实现持久化,具有更高的数据安全性和更好的容错性等优点,但可能存在较大的存储空间和数据加载速度较慢等缺点。混合持久化结合了RDB持久化和AOF持久化的优点,适用于对数据安全性和性能要求较高的场景。在选择Redis持久化方案时,需要根据实际业务需求和场景权衡各个方案的优缺点。
image.png

点赞收藏
一灯架构

只分享有趣的技术干货

请先登录,查看3条精彩评论吧
快去登录吧,你将获得
  • 浏览更多精彩评论
  • 和开发者讨论交流,共同进步

为你推荐

Redis系列:RDB内存快照提供持久化能力

Redis系列:RDB内存快照提供持久化能力

Redis stream 用做消息队列完美吗?

Redis stream 用做消息队列完美吗?

API性能调优
日常Bug排查-偶发性读数据不一致

日常Bug排查-偶发性读数据不一致

5
3