百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

Redis RDB持久化(redis持久化操作)

mhr18 2024-11-02 11:54 29 浏览 0 评论

redis持久化

redis提供了两种把内存数据持久化到磁盘的方式,RDB快照方式和AOF日志方式。

不论使用那种方式,都无法保证redis数据一点都不丢失。rdb只是redis在某一时刻的数据快照snapshot,数据丢失程度主要取决于距离上次做snapshot的时间间隔,越近的snapshot丢失的数据越少。

AOF(appendonly file)在很多人眼里,是不会丢失数据。然而AOF也存在数据丢失的状况,因为AOF并不是传统RDBMS的WAL日志(Wrtite Ahead Log,或者说是commit log)。aof是redis在命令执行成功之后,才写入到磁盘上日志。如果命令执行成功,而fsync操作没有执行,即数据没有写入到磁盘,那么存在数据丢失。

下面的内容主要讨论RDB快照持久化方式在生产中存在的一个些问题,主要是rdb引起的memory swap或者disk io性能问题,

1、RDB快照产生

1)redis开启save参数,redis根据数据update频率决定是否执行rdb操作(bgsave)。

2)手动执行save/bgsave命令,包括执行shutdown命令。

3)redis slave请求full sync。包括第一次建立主从关系请求full sync,或者psync失败的时候请求full sync。在2.8版本以前,不支持psync,每次网络抖动或者失去连接都会造成full sync,比较头疼事情。

不管是住save参数触发的rd.持久化或者slave请求full sync引起的rdb持久化,都会导致redis的一些性能问题,特别是单物理机部署多redis实例(端口)时,很容易引发redis性能问题。

2、生产环境下save参数设置

单台物理机部署了多个redis实例(8-16个),机器内存大小64G或者128GB,磁盘存储为两块sas盘做raid1。

我的生产环境下,主从redis实例都关闭了save参数(config set save “”),即redis不会主动执行rdb操作(bgsave)。

主要原因:

1)redis开启save参数,bgsave行为无法主动控制。在业务高峰期同一物理机上多个redis同时进行bgsave,潜在的隐患是:1)机器内存不足,导致出现memory swap,redis性能下降;2)多个rdb操作,导致磁盘出现io瓶颈,系统load持续上升。

2)从库也不开启save参数的原因:内存不足和磁盘io压力过大,导致redis复制超时(默认60s),或者psync不成,多个redis slave同时请求master执行full sync,触发主库开始执行bgsave。

单机多redis实例部署模式下,内存和磁盘io很容易造成redis性能下降。

如果开启bgsave参数,建议磁盘的性能足够好,比如使用ssd盘,或者多块sas盘做raid10。另外机器的物理内存足够大, 且保留充足内存给bgsave完成COW操作(copy-on-write)。

参考文档:

1) Redis latency problems troubleshooting

相关推荐

C++开发必知的内存问题及常用的解决方法-经典文章

1.内存管理功能问题由于C++语言对内存有主动控制权,内存使用灵活和效率高,但代价是不小心使用就会导致以下内存错误:omemoryoverrun:写内存越界odoublefree:同一块内...

缓存用不好,系统崩得早!10条军规让你成为缓存高手

凌晨三点,我被电话惊醒:“苏工!首页崩了!”监控显示:缓存命中率0%,数据库QPS10万+,线程阻塞2000+。根本原因竟是同事没加缓存!不会用缓存的程序员,就像不会刹车的赛车手——...

彻底搞清楚内存泄漏的原因,如何避免内存泄漏,如何定位内存泄漏

作为C/C++开发人员,内存泄漏是最容易遇到的问题之一,这是由C/C++语言的特性引起的。C/C++语言与其他语言不同,需要开发者去申请和释放内存,即需要开发者去管理内存,如果内存使用不当,就容易造成...

Java中间件-Memcached(Java中间件大全)

一、知识结构及面试题目分析缓存技术的大规模使用是互联网架构区别于传统IT技术最大的地方,是整体高并发高性能架构设计中是重中之重的关键一笔,也是互联网公司比较偏好的面试题目。按照在软件系统中所处位置...

linux内存碎片防治技术(linux内存碎片整理)

推荐视频:90分钟了解Linux内存架构,numa的优势,slab的实现,vmalloc原理剖析Linux内核内存分配与回收Linuxkernel组织管理物理内存的方式是buddysystem(伙...

Redis主从架构详解(redis主从配置详细过程)

Redis主从架构搭建Redis主节点配置创建主节点目录(/opt/redis-master),复制redis.conf到该目录下,redis.conf配置项修改#后台启动daemonizeyes...

揭开CXL内存的神秘面纱(内存c1)

摘要:现代数据中心对内存容量的高需求促进了内存扩展和分解方面的多条创新线,其中一项获得极大关注的工作是基于ComputeeXpressLink(CXL)的内存扩展。为了更好地利用CXL,研究人员建...

一文彻底弄懂 TPS RPS QPS(tps cps)

以下是关于RPS、QPS、TPS的核心区别与关联的总结,结合实际场景和优化建议:一、核心定义与区别RPS:RequestsPerSecond每秒请求数客户端到服务器的完整请求数量Web服务...

用Redis的“集合”找出你和朋友的“共同关注”

你是不是在刷抖音、微博、小红书的时候,常常会看到这样的提示:“你和XXX有共同关注的博主/朋友”?或者当你关注了一个新的明星,系统会推荐“你的朋友YYY也关注了这位明星”?这个看似简单的功能背后,其实...

WOT2016彭哲夫:科班出身开发者对运维人员的期许

“运维与开发”是老生常谈的话题,前几天和一个运维人聊天,TA说一些公司运维岗位都不公开招聘了,这让众多运维人员情何以堪?是运维的岗位真的饱和了?是找到合适的运维人才难?还是有这样那样的因素?带着这些疑...

Java程序员最常用的20%技术总结(java程序员要掌握什么)

我听说编程语言,经常使用的是其中20%的技术。在Java这门语言中,这20%包括哪些内容?找到一份Java初级程序员的工作,有哪些是必须掌握的,有哪些是可以现学现卖的?一个完整的Javaweb项目,有...

秒杀系统实战(四)| 缓存与数据库双写一致性实战

前言微笑挖坑,努力填坑。————已经拥有黑眼圈,但还没学会小猪老师时间管理学的蛮三刀同学本文是秒杀系统的第四篇,我们来讨论秒杀系统中「缓存热点数据」的问题,进一步延伸到数据库和缓存的...

头条评论精灵翻牌子(头条评论精灵翻牌子怎么弄)

关于“头条评论精灵翻牌子”功能,这通常是指平台通过算法或运营手段,将用户的优质评论随机或定向推送到更显眼的位置(如信息流顶部、独立曝光位等),以提升互动率和用户参与感。以下是详细解析和建议:一、功能理...

15个程序员们都应该知道的大模型高级提示词指令模板和示例

作为程序员你如何写大模型指令?你写的指令是不是更专业呢?下面是15个程序员使用的专业的大模型指令,如果早知道可以能节省你很多时间。这些指令可以用在chatgpt,deepseek等大模型。1.一键...

MyBatis-Plus内置的主键生成策略有大坑,要注意!

昨天小伙伴使用Mybaits-Plus开发的项目线上(集群、K8S)出现了主键重复问题,其报错如下:Mybatis-Plus启动时会通过com.baomidou.mybatisplus.core.to...

取消回复欢迎 发表评论: