只需十分钟,带你深入理解Redis持久化,抓紧时间收藏起来
mhr18 2024-10-23 11:34 19 浏览 0 评论
用过Redis的都知道,Redis有两种持久化方式:RDB和AOF,他们的区别大家应该都清楚,所以今天主要想分享一下这两种持久化方式的底层原理以及实现。
如果让你手写一个持久化(架构级)的功能,你没有思路的话,那希望这个文章可以给你灵感。
1. RDB持久化
1.1 创建
简单回顾下RDB文件的创建。
有两种创建方式:
- save.阻塞进程去处理(期间不处理别的请求)
- bgsave.派生一个子进程去处理
1.2 载入
在redis服务启动时,如果检测到RDB文件,会进行自动载入。
如果RDB文件和AOF都存在,优先载入谁?
如果开启了AOF,则会优先AOF
1.3 save的底层实现
save 900 1 save 300 10 save 60 10000
这是redis.conf配置文件中关于RDB save时机的配置,它映射在redisServer结构体的saveparams字段中:
struct redisServer{ .... // 保存了redis.conf配置的属性 struct saveparam *saveparams; // 记录上一次save的时间 time_t lastsave; // 修改计数器 long long dirty; ... };
那来看看它怎么保存的:
struct saveparam { // 秒数 time_t seconds; // 修改次数 int changes; };
redis自己有一个定时任务每100毫秒执行一次,其中有一个任务就是检查save条件是否满足,如何判断的呢?就是用lastsave与saveparam.seconds比较时间是否满足,dirty与changes比较修改次数是否满足。
那bgsave如何实现呢,new一个子线程,然后拷贝个数据副本,然后和save一样处理。
好了,到这里,用Java写一个这应该是没问题了,那RDB的文件结构如何设计呢?我们来看看redis的设计。
1.4 RDB文件结构
REDIS+数据库版本号+数据类型+数据+EOF(表示数据结束)(377)+检验和
我们知道java中Class文件结构很复杂,因为它包含了常量、接口、类、父类、字段等面向对象的信息,而RDB的就比较简单了,因为它只需要存放数据即可。
和class结构一样,它的开头也是文件标识REDIS+版本号标识.
分析:
更详细的可以查看http://redisbook.com/preview/rdb/rdb_struct.html
手写过Jedis的朋友都熟悉RESP协议,RDB的数据段和它的排版方式很相似。比如:\0 \0 003 m s g 005 h e l l o 377就表示键值对:msg(3个长度):hello(5个长度)
AOF
AOF以拼接和重写命令的方式来实现。
# 是否开启aof appendonly yes # 文件名称 appendfilename "appendonly.aof" # 同步方式 ##每次收到写命令就立即强制写入磁盘,最慢的,但是保证完全的持久化,不推荐使用 # appendfsync always ##每秒钟强制写入磁盘一次,在性能和持久化方面做了很好的折中,系统默认 appendfsync everysec ##完全依赖os,性能最好,持久化没保证 # appendfsync no # aof重写期间是否同步 no-appendfsync-on-rewrite no # 重写触发配置 auto-aof-rewrite-percentage 100 auto-aof-rewrite-min-size 64mb # 加载aof时如果有错如何处理 aof-load-truncated yes # 文件重写策略 aof-rewrite-incremental-fsync yes
这一段配置中,大家着重理解同步方式的配置。redis默认采用的每秒一次写入AOF文件的策略。
实现原理
struct redisServer { // ... // 存放AOF缓冲 sds aof_buf; // ... };
当有新的命令进来,redis就会将其(协议化后)追加到aof_buf的末尾。
同理,redis的事件循环也会监听AOF的配置,如果满足配置文件中的同步方式appendfsync everysec等,就会将aof_buf中的内容保存到AOF文件里。
为什么要进行AOF重写
我们知道,redis对AOF有重写机制,用来控制AOF文件的大小。
- AOF体积过大不利于存储。
- AOF体积过大,使用AOF数据还原的时间更长。
AOF重写多个键值对的数据一定是使用一条数据完成吗
发生在重写列表、哈希表、集合、有序集合可能会带有多个元素的键时。
不是,如果它的值超过64项,则会用多条命令来完成。(避免客户端输入缓冲区溢出)
AOF谁来执行
Redis不希望AOF重写造成服务器阻塞,所以用子进程(带有数据副本)去处理。
AOF期间有新的数据进来会导致AOF文件与当前数据不一致吗
不会。为了解决这个问题,Reids设置了AOF重写缓冲区(创建子进程后开启),当Redis执行命令时,redis会同时将这个信息发送给aof_buf和AOF重写缓冲区。
扩展
过期键的删除策略
- 定时删除。过期键较多的情况下,大量的CPU用于删除键而影响了客户端的请求。
- 惰性删除。只有过期键被访问才删除,可能会导致过期键过多,造成内存浪费和溢出。
- 定期删除。限制时长和频率对过期键进行删除,难点在于时长和频率难以确定。
Redis的过期键删除策略
Redis采用的是惰性删除和定期删除,配合这两种策略来取得CPU和内存的平衡。
RDB和AOF文件中会包含过期键吗
不包含。
在生成RDB和AOF文件时,程序会对键进行检查,已过期的键不保存到文件中。
原文地址:https://dwz.cn/31bWZCYG
作者:Java知音
相关推荐
- Redis合集-使用benchmark性能测试
-
采用开源Redis的redis-benchmark工具进行压测,它是Redis官方的性能测试工具,可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译,详情请参见Redis...
- Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好
-
最近看了几十份简历,发现大部分人不是技术差,而是不会“卖自己”——一、简历死穴:你写的不是经验,是岗位说明书!反面教材:ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法:...
- redission YYDS(redission官网)
-
每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架,它提供了各种锁实现,包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...
- 从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道
-
2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时,订单系统却产生了1200笔有效订单。事故复盘发...
- SpringBoot系列——实战11:接口幂等性的形而上思...
-
欢迎关注、点赞、收藏。幂等性不仅是一种技术需求,更是数字文明对确定性追求的体现。在充满不确定性的网络世界中,它为我们建立起可依赖的存在秩序,这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...
- 如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享
-
如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享在高流量场景下。首先,我需要回忆一下常见的优化策略,比如负载均衡、缓存、数据库优化、微服务拆分这些。不过,可能还需要考虑用户的具体情况,比...
- Java面试题: 项目开发中的有哪些成长?该如何回答
-
在Java面试中,当被问到“项目中的成长点”时,面试官不仅想了解你的技术能力,更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例,帮助你清晰、有说服力地展示成长点:一...
- 互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?
-
你有没有遇到过这样的情况?在电商大促时,系统上线了抢券活动,结果活动刚一开始,服务器就不堪重负,出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮,最后却被告知无券可抢,体验极差。作为互联网大厂的后...
- 每日一题 |10W QPS高并发限流方案设计(含真实代码)
-
面试场景还原面试官:“如果系统要承载10WQPS的高并发流量,你会如何设计限流方案?”你:“(稳住,我要从限流算法到分布式架构全盘分析)…”一、为什么需要限流?核心矛盾:系统资源(CPU/内存/数据...
- Java面试题:服务雪崩如何解决?90%人栽了
-
服务雪崩是指微服务架构中,由于某个服务出现故障,导致故障在服务之间不断传递和扩散,最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法:限流限制请求速率:通过限流算法(如令牌桶算法、漏桶算...
- 面试题官:高并发经验有吗,并发量多少,如何回复?
-
一、有实际高并发经验(建议结构)直接量化"在XX项目中,系统日活用户约XX万,核心接口峰值QPS达到XX,TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...
- 瞬时流量高并发“保命指南”:这样做系统稳如泰山,老板跪求加薪
-
“系统崩了,用户骂了,年终奖飞了!”——这是多少程序员在瞬时大流量下的真实噩梦?双11秒杀、春运抢票、直播带货……每秒百万请求的冲击,你的代码扛得住吗?2025年了,为什么你的系统一遇高并发就“躺平”...
- 其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。
-
其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。比如上周有个小伙伴找我,五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他:你做的秒杀...
- PHP技能评测(php等级考试)
-
公司出了一些自我评测的PHP题目,现将题目和答案记录于此,以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct(),类的构造函数__destruct(),类的析构函数__cal...
- 你的简历在HR眼里是青铜还是王者?
-
你的简历在HR眼里是青铜还是王者?兄弟,简历投了100份没反应?面试总在第三轮被刷?别急着怀疑人生,你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)