百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

Redis系列(三):Redis持久化机制(RDB & AOF)

mhr18 2024-11-11 12:05 14 浏览 0 评论

在前两篇关于Redis的文章中,已经详细的介绍了Redis常用的数据结构相关内容,如果还没看的小伙伴可以先过一遍【Redis基本数据类型Redis跳跃表详解】。本篇文章主要介绍:Redis数据持久化机制(RDB & AOF)。在此之前需要先了解一下Redis服务器的数据库以及Redis对过期键的处理策略是怎样的,有助于理解持久化机制内容。


Redis服务器中的数据库

对于我们都很熟悉的数据库MySQL,我们知道在MySQL中可以创建多个库。同样地,Redis服务器中也是有数据库这一概念的。如果不指定具体的数量,默认会有16个数据库,并且数据库与数据库之间的数据是隔离的

  • Redis数据库的原理

Redis服务器是通过redisServer结构体表示的,其中redisDb一个是用来保存所有的数据库的数组,dbnum表示数据库的数量(默认16,可以修改配置),Redis中对于每个数据库是通过redisDb结构体表示的。redisServer和redisDb的源码如下:

struct redisServer{  
    //  redisDb数组,表示服务器中所有的数据库
    redisDb *db;  
    //  服务器中数据库的数量
    int dbnum;  
}; 
typedef struct redisDb { 
    //  数据库ID标识
    int id;
    //  键空间,存放着所有的键值对
    dict *dict; 
    //  过期哈希表,保存着键的过期时间  
    dict *expires;  
    //  被watch命令监控的key和相应client 
    dict *watched_keys;   
    //  数据库内所有键的平均TTL(生存时间)
    long long avg_ttl;       
} redisDb;

从源码中可以知道,最重要的属性是dict *dict,它是用来存放所有的键值对。对于dict数据结构(哈希表)可以参考上篇文章Redis基本数据类型,这里不再赘述。我们将存储所有键值对的dict称为键空间。其示意图参考如下:

另外,我们知道Redis是C/S架构的,Redis客户端是通过redisClient结构体表示的,源码如下:

typedef struct redisClient{  
    //  客户端当前所选数据库
    redisDb *db;  
}redisClient;

【小结】:Redis的数据库是使用字典(哈希表)作为底层存储实现的,对数据库的增删改查都是构建在字典的操作之上的。

基于上述键值对存储结构示意图,执行Redis命令如:GET message -- "Hello Redis"。

Redis键过期处理策略

  • 键的过期时间

Redis是基于内存的,内存是非常昂贵的资源,并且容量是比较小的。所以我们需要处理掉不常使用的数据,保留常用数据。Redis提供了键的过期时间(生存时间)设置。

  1. 设置键的生存时间可以通过EXPIRE或者PEXPIRE命令;
  2. 设置键的过期时间可以通过EXPIREAT或者PEXPIREAT命令;

其中EXPIREPEXPIREEXPIREAT都是通过PEXPIREAT命令实现的。

  • 键过期策略

通过设置过期时间,过期键到时间会立即删除吗?回答这个问题,需要了解一下删除策略:

  1. 定时删除:到时间点就把所有过期的键删除(对内存是友好的,对CPU不友好);
  2. 惰性删除:每次从键空间取键的时候,判断键是否过期,如果是就删除(对内存不友好,对CPU友好);
  3. 定期删除:每隔一段时间删除过期键,限制删除的执行时长和频率(内存和CPU的折中);

【注】:Redis采用惰性删除&定期删除两种策略,所以在Redis中如果过期键到了过期时间了未必被立即删除。

  • 内存淘汰机制

基于上述删除策略,如果遗漏了很多过期的键,也没有办法及时去查(惰性删除),大量过期的键堆积在内存中,导致Redis内存几乎耗尽,这种情况如何处理呢?

当然,我们可以设置内存最大使用量,当内存使用量超出时,会执行数据淘汰策略

Redis的内存淘汰策略机制有以下几种:

一般使用场景:使用Redis缓存数据时,为了提高缓存命中率,需要保证缓存数据都是热点数据。可以将内存最大使用量设置为热点数据占用的内存量,然后启用allkeys-lru淘汰策略,将最近最少使用的数据淘汰。

Redis持久化机制

Redis的数据全部存储在内存中,如果异常突然宕机,数据就会全部丢失,因此必须有一套机制来保证Redis数据不会因为故障的发生而丢失,这种机制就是Redis持久化机制,它会将内存中的数据状态保存到磁盘中。

介绍Redis持久化机制之前,先看一下从客户端发起请求开始,到服务器真实写入磁盘,这期间发生哪些操作,以一张示意图表示:

对上图进行简单描述:

  1. Client向数据库发送写命令(数据在Client内存中);
  2. 数据库接收到Client的写请求(数据在Server内存中);
  3. 数据库调用系统API将数据写入磁盘(数据在内核缓冲区中);
  4. 操作系统将写缓冲区传输到磁盘控制器(数据在磁盘缓存中);
  5. 磁盘控制器将数据写入实际的物理介质中(数据在磁盘中)。

Redis提供了两种不同的持久化机制来将数据存储到磁盘中:

(1) RDB(基于快照):将某一时刻的所有数据保存到一个RDB文件中

(2) AOF(Append-Only-File):当Redis服务器执行写命令时,将执行的写命令保存到AOF文件中

  • RDB持久化机制(快照持久化)

RDB触发机制分为手动触发和自动触发两种。RDB持久化所生成的RDB文件是一个经过压缩处理的二进制文件,Redis可以通过这个文件还原数据库的数据。

  1. 手动触发
    1. SAVE:会阻塞Redis服务器进程,服务器不能接收任何请求,直到RDB文件创建完毕
    2. BGSAVE:Redis进程执行fork()操作创建出一个子进程,在后台完成RDB持久化过程
  1. 自动触发
    save 900 1              #  在900秒(15分钟)之后,至少有1个key发生变化
    save 300 10            #  在300秒(5分钟)之后,至少有10个key发生变化
    save 60 10000        #  在60秒(1分钟)之后,至少有10000个key发生变化

Redis持久化流程(BGSAVE执行流程):

【总结】通过手动调用SAVE或者BGSAVE命令或者配置条件触发,将数据库某一时刻的数据快照,生成RDB文件实现持久化。

  • AOF持久化机制(文件追加)

AOF是通过保存Redis服务器所执行的写命令来记录数据库的数据的。以独立日志的方式记录每次写命令,重启时再重新执行AOF文件中的命令达到恢复数据的目的。

AOF的使用:在redis.conf配置文件中,将appendonly设置为yes,默认是no。

  1. AOF持久化机制实现

AOF持久化机制实现分三个步骤:

Step1:命令追加:命令写入aof_buf缓冲区

Step2:文件写入:调用flushAppendOnlyFile函数,考虑是否要将aof_buf缓冲区写入AOF文件中

Step3:文件同步:考虑是否将内存缓冲区数据真正写入到磁盘

其中,flushAppendOnlyFile函数的行为是由服务器的appendfsyn配置项决定的:

    appendfsync always     # 每次有数据修改发生时都会写入AOF文件。
    appendfsync everysec   # 每秒钟同步一次,该策略为AOF的默认策。
    appendfsync no         # 从不同步。高效但是数据不会被持久化

有一个问题需要在这里进行简单的说明:写命令为什么先写入缓冲区?

由于Redis是单线程响应命令,所以每次写AOF文件都直接追加到硬盘中,那么写入的性能完全取决于硬盘的负载,所以Redis会将命令写入到缓冲区中,然后执行文件同步操作,再将缓冲区内容同步到磁盘中,这样就很好的保持了高性能。

  1. AOF重写

Redis在长期运行的过程中,AOF日志会越变越长。如果实例宕机重启,重放整个AOF日志会非常耗时,导致长时间 Redis 无法对外提供服务。所以需要对AOF日志 “瘦身”。

Redis提供了bgrewriteaof指令用于对AOF日志进行瘦身。其 原理 就是 开辟一个子进程 对内存进行 遍历 转换成一系列Redis的操作指令,序列化到一个新的AOF日志文件 中。序列化完毕后再将操作期间发生的 增量AOF日志 追加到这个新的AOF日志文件中,追加完毕后就立即替代旧的AOF日志文件了,瘦身工作就完成了。

【说明】:AOF重写不需要对现有的AOF文件进行任何的读取、分析。AOF重写是通过读取服务器当前数据库的数据来实现的!

Redis将AOF重写程序放到子进程里执行(bgrewriteaof命令),像BGSAVE命令一样fork出一个子进程来完成重写AOF的操作,从而不会影响到主进程。AOF后台重写是不会阻塞主进程接收请求的,新的写命令请求可能会导致当前数据库和重写后的AOF文件的数据不一致

☆ 为了解决数据不一致的问题,Redis服务器设置了一个AOF重写缓冲区,这个缓存区会在服务器创建出子进程之后使用

  • RDB & AOF比较
    • RDB的优点:载入时恢复数据快,文件体积小
    • RDB的缺点:会一定程度上丢失数据(因为系统如果在定时持久化之前出现宕机,此时还没来得及写入磁盘的数据都将会丢失)
    • AOF的优点:丢失数据少(默认配置只丢失一秒的数据)
    • AOF的缺点:恢复数据相对较慢,文件体积大

【说明】:如果Redis服务器同时开启了RDB和AOF持久化,服务器会优先使用AOF文件来还原数据(因为AOF更新频率比RDB更新频率要高,还原的数据更完善)


往期精彩文章

Redis系列(二):跳跃表详解

Redis系列(一):与Redis的第一次相识

MySQL系列之精华篇

MySQL系列之MVCC多版本并发控制

MySQL系列之数据库锁

MySQL系列之数据库索引

MySQL系列之事务隔离

相关推荐

Spring Boot3 连接 Redis 竟有这么多实用方式

各位互联网大厂的后端开发精英们,在日常开发中,想必大家都面临过系统性能优化的挑战。当系统数据量逐渐增大、并发请求不断增多时,如何提升系统的响应速度和稳定性,成为了我们必须攻克的难题。而Redis,这...

隧道 ssh -L 命令总结 和 windows端口转发配置

摘要:隧道ssh-L命令总结和windows端口转发配置关键词:隧道、ssh-L、端口转发、网络映射整体说明最近在项目中,因为内网的安全密级比较高,只能有一台机器连接内网数据库,推送...

火爆BOOS直聘的13个大厂Java社招面经(5年经验)助你狂拿offer

火爆BOOS直聘的13个大厂Java社招面经(5年经验)助你狂拿offer综上所述,面试遇到的所有问题,整理成了一份文档,希望大家能够喜欢!!Java面试题分享(Java中高级核心知识全面解析)一、J...

「第五期」游服务器一二三面 秋招 米哈游

一面下午2点,35分钟golang内存模型golang并发模型golanggc原理过程channel用途,原理redis数据结构,底层实现跳跃表查询插入复杂度进程,线程,协程kill原理除了kil...

RMQ——支持合并和优先级的消息队列

业务背景在一个项目中需要实现一个功能,商品价格发生变化时将商品价格打印在商品主图上面,那么需要在价格发生变动的时候触发合成一张带价格的图片,每一次触发合图时计算价格都是获取当前最新的价格。上游价格变化...

Redis 中的 zset 为什么要用跳跃表,而不是B+ Tree 呢?

Redis中的有序集合使用的是一种叫做跳跃表(SkipList)的数据结构来实现,而不是使用B+Tree。本文将介绍为什么Redis中使用跳跃表来实现有序集合,而不是B+Tree,并且探讨跳跃表...

一文让你彻底搞懂 WebSocket 的原理

作者:木木匠转发链接:https://juejin.im/post/5c693a4f51882561fb1db0ff一、概述上一篇文章《图文深入http三次握手核心问题【思维导图】》我们分析了简单的一...

Redis与Java整合的最佳实践

Redis与Java整合的最佳实践在这个数字化时代,数据处理速度决定了企业的竞争力。Redis作为一款高性能的内存数据库,以其卓越的速度和丰富的数据结构,成为Java开发者的重要伙伴。本文将带你深入了...

Docker与Redis:轻松部署和管理你的Redis实例

在高速发展的云计算时代,应用程序的部署和管理变得越来越复杂。面对各种操作系统、依赖库和环境差异,开发者常常陷入“在我机器上能跑”的泥潭。然而,容器化技术的兴起,尤其是Docker的普及,彻底改变了这一...

Java开发中的缓存策略:让程序飞得更快

Java开发中的缓存策略:让程序飞得更快缓存是什么?首先,让我们来聊聊什么是缓存。简单来说,缓存是一种存储机制,它将数据保存在更快速的存储介质中,以便后续使用时能够更快地访问。比如,当你打开一个网页时...

国庆临近,字节后端开发3+4面,终于拿到秋招第一个offer

字节跳动,先面了data部门,3面技术面之后hr说需要实习转正,拒绝,之后另一个部门捞起,四面技术面,已oc分享面经,希望对大家有所帮助,秋招顺利在文末分享了我为金九银十准备的备战资源库,包含了源码笔...

“快”就一个字!Redis凭什么能让你的APP快到飞起?

咱们今天就来聊一个字——“快”!在这个信息爆炸、耐心越来越稀缺的时代,谁不希望自己手机里的APP点一下“嗖”就打开,刷一下“唰”就更新?谁要是敢让咱用户盯着个小圈圈干等,那简直就是在“劝退”!而说到让...

双十一秒杀,为何总能抢到?Redis功不可没!

一年一度的双十一“剁手节”,那场面,简直比春运抢票还刺激!零点的钟声一敲响,亿万个手指头在屏幕上疯狂戳戳戳,眼睛瞪得像铜铃,就为了抢到那个心心念念的半价商品、限量版宝贝。你有没有发现一个奇怪的现象?明...

后端开发必看!为什么说Redis是天然的幂等性?

你在做后端开发的时候,有没有遇到过这样的困扰:高并发场景下,同一个操作重复执行多次,导致数据混乱、业务逻辑出错?别担心,很多同行都踩过这个坑。某电商平台就曾因订单创建接口在高并发时不具备幂等性,用户多...

开发一个app需要哪些技术和工具

APP开发需要一系列技术和工具的支持,以下是对这些技术的清晰归纳和分点表示:一、前端开发技术HTML用于构建页面结构。CSS用于样式设计和布局。JavaScript用于页面交互和逻辑处理。React...

取消回复欢迎 发表评论: