百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

只需十分钟,带你深入理解Redis持久化,抓紧时间收藏起来

mhr18 2024-10-23 11:34 28 浏览 0 评论

用过Redis的都知道,Redis有两种持久化方式:RDB和AOF,他们的区别大家应该都清楚,所以今天主要想分享一下这两种持久化方式的底层原理以及实现。

如果让你手写一个持久化(架构级)的功能,你没有思路的话,那希望这个文章可以给你灵感。

1. RDB持久化

1.1 创建

简单回顾下RDB文件的创建。

有两种创建方式:

  1. save.阻塞进程去处理(期间不处理别的请求)
  2. bgsave.派生一个子进程去处理

1.2 载入

在redis服务启动时,如果检测到RDB文件,会进行自动载入。

如果RDB文件和AOF都存在,优先载入谁?

如果开启了AOF,则会优先AOF

1.3 save的底层实现

save 900 1 
save 300 10 
save 60 10000 

这是redis.conf配置文件中关于RDB save时机的配置,它映射在redisServer结构体的saveparams字段中:

struct redisServer{
 ....
 // 保存了redis.conf配置的属性
 struct saveparam *saveparams;
 
 // 记录上一次save的时间
 time_t lastsave;
 
 // 修改计数器
 long long dirty;
 ...
};

那来看看它怎么保存的:

struct saveparam {
 // 秒数
 time_t seconds;
 // 修改次数
 int changes;
};

redis自己有一个定时任务每100毫秒执行一次,其中有一个任务就是检查save条件是否满足,如何判断的呢?就是用lastsave与saveparam.seconds比较时间是否满足,dirty与changes比较修改次数是否满足。

那bgsave如何实现呢,new一个子线程,然后拷贝个数据副本,然后和save一样处理。

好了,到这里,用Java写一个这应该是没问题了,那RDB的文件结构如何设计呢?我们来看看redis的设计。

1.4 RDB文件结构

REDIS+数据库版本号+数据类型+数据+EOF(表示数据结束)(377)+检验和

我们知道java中Class文件结构很复杂,因为它包含了常量、接口、类、父类、字段等面向对象的信息,而RDB的就比较简单了,因为它只需要存放数据即可。

和class结构一样,它的开头也是文件标识REDIS+版本号标识.

分析:

更详细的可以查看http://redisbook.com/preview/rdb/rdb_struct.html

手写过Jedis的朋友都熟悉RESP协议,RDB的数据段和它的排版方式很相似。比如:\0 \0 003 m s g 005 h e l l o 377就表示键值对:msg(3个长度):hello(5个长度)

AOF

AOF以拼接和重写命令的方式来实现。

# 是否开启aof
appendonly yes
# 文件名称
appendfilename "appendonly.aof"
# 同步方式
##每次收到写命令就立即强制写入磁盘,最慢的,但是保证完全的持久化,不推荐使用
# appendfsync always
##每秒钟强制写入磁盘一次,在性能和持久化方面做了很好的折中,系统默认
appendfsync everysec
##完全依赖os,性能最好,持久化没保证
# appendfsync no
# aof重写期间是否同步
no-appendfsync-on-rewrite no
# 重写触发配置
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
# 加载aof时如果有错如何处理
aof-load-truncated yes
# 文件重写策略
aof-rewrite-incremental-fsync yes

这一段配置中,大家着重理解同步方式的配置。redis默认采用的每秒一次写入AOF文件的策略。

实现原理

struct redisServer {
 // ...
 // 存放AOF缓冲
 sds aof_buf;
 // ...
};

当有新的命令进来,redis就会将其(协议化后)追加到aof_buf的末尾。

同理,redis的事件循环也会监听AOF的配置,如果满足配置文件中的同步方式appendfsync everysec等,就会将aof_buf中的内容保存到AOF文件里。

为什么要进行AOF重写

我们知道,redis对AOF有重写机制,用来控制AOF文件的大小。

  1. AOF体积过大不利于存储。
  2. AOF体积过大,使用AOF数据还原的时间更长。

AOF重写多个键值对的数据一定是使用一条数据完成吗

发生在重写列表、哈希表、集合、有序集合可能会带有多个元素的键时。

不是,如果它的值超过64项,则会用多条命令来完成。(避免客户端输入缓冲区溢出)

AOF谁来执行

Redis不希望AOF重写造成服务器阻塞,所以用子进程(带有数据副本)去处理。

AOF期间有新的数据进来会导致AOF文件与当前数据不一致吗

不会。为了解决这个问题,Reids设置了AOF重写缓冲区(创建子进程后开启),当Redis执行命令时,redis会同时将这个信息发送给aof_buf和AOF重写缓冲区。

扩展

过期键的删除策略

  1. 定时删除。过期键较多的情况下,大量的CPU用于删除键而影响了客户端的请求。
  2. 惰性删除。只有过期键被访问才删除,可能会导致过期键过多,造成内存浪费和溢出。
  3. 定期删除。限制时长和频率对过期键进行删除,难点在于时长和频率难以确定。

Redis的过期键删除策略

Redis采用的是惰性删除和定期删除,配合这两种策略来取得CPU和内存的平衡。

RDB和AOF文件中会包含过期键吗

不包含。

在生成RDB和AOF文件时,程序会对键进行检查,已过期的键不保存到文件中。

原文地址:https://dwz.cn/31bWZCYG

作者:Java知音

相关推荐

订单超时自动取消业务的 N 种实现方案,从原理到落地全解析

在分布式系统架构中,订单超时自动取消机制是保障业务一致性的关键组件。某电商平台曾因超时处理机制缺陷导致日均3000+订单库存锁定异常,直接损失超50万元/天。本文将从技术原理、实现细节、...

使用Spring Boot 3开发时,如何选择合适的分布式技术?

作为互联网大厂的后端开发人员,当你满怀期待地用上SpringBoot3,准备在项目中大显身手时,却发现一个棘手的问题摆在面前:面对众多分布式技术,究竟该如何选择,才能让SpringBoot...

数据库内存爆满怎么办?99%的程序员都踩过这个坑!

你的数据库是不是又双叒叕内存爆满了?!服务器监控一片红色警告,老板在群里@所有人,运维同事的电话打爆了手机...这种场景是不是特别熟悉?别慌!作为一个在数据库优化这条路上摸爬滚打了10年的老司机,今天...

springboot利用Redisson 实现缓存与数据库双写不一致问题

使用了Redisson来操作Redis分布式锁,主要功能是从缓存和数据库中获取商品信息,以下是针对并发时更新缓存和数据库带来不一致问题的解决方案1.基于读写锁和删除缓存策略在并发更新场景下,...

外贸独立站数据库炸了?对象缓存让你起死回生

上周黑五,一个客户眼睁睁看着服务器CPU飙到100%——每次页面加载要查87次数据库。这让我想起2024年Pantheon的测试:Redis缓存能把WooCommerce查询速度提升20倍。跨境电商最...

手把手教你在 Spring Boot3 里纯编码实现自定义分布式锁

为什么要自己实现分布式锁?你是不是早就受够了引入各种第三方依赖时的繁琐?尤其是分布式锁这块,每次集成Redisson或者Zookeeper,都得额外维护一堆配置,有时候还会因为版本兼容问题头疼半...

如何设计一个支持百万级实时数据推送的WebSocket集群架构?

面试解答:要设计一个支持百万级实时数据推送的WebSocket集群架构,需从**连接管理、负载均衡、水平扩展、容灾恢复**四个维度切入:连接层设计-**长连接优化**:采用Netty或Und...

Redis数据结构总结——面试最常问到的知识点

Redis作为主流的nosql存储,面试时经常会问到。其主要场景是用作缓存,分布式锁,分布式session,消息队列,发布订阅等等。其存储结构主要有String,List,Set,Hash,Sort...

skynet服务的缺陷 lua死循环

服务端高级架构—云风的skynet这边有一个关于云风skynet的视频推荐给大家观看点击就可以观看了!skynet是一套多人在线游戏的轻量级服务端框架,使用C+Lua开发。skynet的显著优点是,...

七年Java开发的一路辛酸史:分享面试京东、阿里、美团后的心得

前言我觉得有一个能够找一份大厂的offer的想法,这是很正常的,这并不是我们的饭后谈资而是每个技术人的追求。像阿里、腾讯、美团、字节跳动、京东等等的技术氛围与技术规范度还是要明显优于一些创业型公司...

mysql mogodb es redis数据库之间的区别

1.MySQL应用场景概念:关系型数据库,基于关系模型,使用表和行存储数据。优点:支持ACID事务,数据具有很高的一致性和完整性。缺点:垂直扩展能力有限,需要分库分表等方式扩展。对于复杂的查询和大量的...

redis,memcached,nginx网络组件

1.理解阻塞io,非阻塞io,同步io,异步io的区别2.理解BIO和AIO的区别io多路复用只负责io检测,不负责io操作阻塞io中的write,能写多少是多少,只要写成功就返回,譬如准备写500字...

SpringBoot+Vue+Redis实现验证码功能

一个小时只允许发三次验证码。一次验证码有效期二分钟。SpringBoot整合Redis...

AWS MemoryDB 可观测最佳实践

AWSMemoryDB介绍AmazonMemoryDB是一种完全托管的、内存中数据存储服务,专为需要极低延迟和高吞吐量的应用程序而设计。它与Redis和Memcached相似,但具有更...

从0构建大型AI推荐系统:实时化引擎从工具到生态的演进

在AI浪潮席卷各行各业的今天,推荐系统正从幕后走向前台,成为用户体验的核心驱动力。本文将带你深入探索一个大型AI推荐系统从零起步的全过程,揭示实时化引擎如何从单一工具演进为复杂生态的关键路径。无论你是...

取消回复欢迎 发表评论: