百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

redis系列之淘汰删除,主动被动双管齐下式保障

mhr18 2024-10-24 11:10 40 浏览 0 评论


redis可以针对key设置过期时间,如果到了过期时间,redis是如何让其失效呢?redis提供了两种让key过期的方法,一种是主动删除,另一种被动删除。

被动删除

当读/写一个已经过期的key时,会触发被动删除策略,直接删除掉这个过期key。

被动删除只有key被操作时(如GET),REDIS才会被动检查该key是否过期,如果过期则删除之并且返回NIL。如果系统中存在大量的不经常访问的过期数据,会造成内存的浪费。

优点:被动删除对于cpu友好,不需要消耗cpu资源。

缺点:对于内存不友好,失效的key仍然占用内存。

主动删除

由于被动删除策略无法保证冷数据被及时删掉,所以Redis会定期主动淘汰一批已过期的key。采用的是贪心算法。key的定期删除会在Redis的周期性执行任务默认每100ms(可以通过hz参数自定义)执行一次,针对每个db,每次循环随机选择20个key判断是否过期,如果一轮所选的key少于25%过期,则终止此次任务。如果超过25%则继续新的一轮选择,如果此次任务超过一定的时间也会被终止,避免长时间消耗cpu,造成性能损耗。

优点:主动删除对于内存友好,能够定期删除一些失效的key,释放内存空间

缺点:对于cpu不友好,需要消耗cpu资源

注意:hz调大将会提高Redis主动淘汰的频率,如果你的Redis存储中包含很多冷数据占用内存过大的话,可以考虑将这个值调大,但Redis作者建议这个值不要超过100。我们实际线上将这个值调大到100,观察到CPU会增加2%左右,但对冷数据的内存释放速度确实有明显的提高。

如果redis配置了主从,这两种删除,只会在master中执行,然后通过del key的方式同步到slave。

淘汰策略

如果失效的key没有被访问,也未被主动删除随机选中,那这个key就永远不会失效吗?

redis中有一个maxmemory配置,即redis最大能使用的内存,当redis的使用内存达到这个值,会根据配置的淘汰策略,对redis的key进行淘汰。

  • volatile-lru:只对设置了过期时间的key进行LRU(默认值)
  • allkeys-lru : 删除lru算法的key
  • volatile-random:随机删除即将过期key
  • allkeys-random:随机删除
  • volatile-ttl : 删除即将过期的
  • noeviction : 永不过期,返回错误

注意:当mem_used内存已经超过maxmemory的设定,对于所有的读写请求,都会触发redis.c/freeMemoryIfNeeded(void)函数以清理超出的内存。注意这个清理过程是阻塞的,直到清理出足够的内存空间。所以如果在达到maxmemory并且调用方还在不断写入的情况下,可能会反复触发主动清理策略,导致请求会有一定的延迟。

主动和被动都是为了提供更多的保障。很多场景都可以使用,如数据之间的同步,数据库mysql和redis的数据同步,主动的方式通过消息队列,通知redis更新,被动的方式使用定时任务,定期全量同步,从而达到数据的一致性。因为通过消息队列,可能会存在消息的阻塞、消息中间件服务不work,消息丢失等异常情况。携程开源框架配置中心apollo,也采用了主动和被动通知的两种方式,主动的方式是config-server和客户端保持长连接,一旦配置发生修改通知客户端,被动方式是客户端定时去向config-server拉取最新的配置。中心思想就是保证服务的高可用,降低出错概率。

java设计模式系列文章:

java设计模式之代理模式,看我72变

java设计模式之模板模式,站在巨人的肩膀上成功

java设计模式之迭代器模式,顾客永远的上帝

java设计模式之适配器模式,大丈夫能屈能伸

java设计模式之构建模式,私人订制更具特色

java设计模式之组合模式,男女搭配干活不累

java设计模式之状态模式,策略模式孪生兄弟

java设计模式之责任链模式,一个也不能少,每个人都是主角

java设计模式之桥接模式,策略模式旗舰版,世界没有免费的午餐

java设计模式之原型模式,如有雷同,纯属巧合

设计模式之命令模式,各司其职提高效率

设计模式之装饰器模式,因为参与,所以认同

设计模式之策略模式,来源于生活,用之于生活

设计模式之单例模式,每个人都是唯一

监控系列文章:

程序员生存之道,谁开发谁运行谁监控

应用监控之调用链跟踪选型之Zipkin、Pinpoint、SkyWalking、CAT

java应用监控之CAT安装部署

java应用监控之CAT简介

java应用监控之Cat核心功能简介

java应用监控之Cat集成Dubbo、Mybatis、Logback、spring boot

java应用监控之利用cat接口性能优化,每一次都是血的教训

相关推荐

订单超时自动取消业务的 N 种实现方案,从原理到落地全解析

在分布式系统架构中,订单超时自动取消机制是保障业务一致性的关键组件。某电商平台曾因超时处理机制缺陷导致日均3000+订单库存锁定异常,直接损失超50万元/天。本文将从技术原理、实现细节、...

使用Spring Boot 3开发时,如何选择合适的分布式技术?

作为互联网大厂的后端开发人员,当你满怀期待地用上SpringBoot3,准备在项目中大显身手时,却发现一个棘手的问题摆在面前:面对众多分布式技术,究竟该如何选择,才能让SpringBoot...

数据库内存爆满怎么办?99%的程序员都踩过这个坑!

你的数据库是不是又双叒叕内存爆满了?!服务器监控一片红色警告,老板在群里@所有人,运维同事的电话打爆了手机...这种场景是不是特别熟悉?别慌!作为一个在数据库优化这条路上摸爬滚打了10年的老司机,今天...

springboot利用Redisson 实现缓存与数据库双写不一致问题

使用了Redisson来操作Redis分布式锁,主要功能是从缓存和数据库中获取商品信息,以下是针对并发时更新缓存和数据库带来不一致问题的解决方案1.基于读写锁和删除缓存策略在并发更新场景下,...

外贸独立站数据库炸了?对象缓存让你起死回生

上周黑五,一个客户眼睁睁看着服务器CPU飙到100%——每次页面加载要查87次数据库。这让我想起2024年Pantheon的测试:Redis缓存能把WooCommerce查询速度提升20倍。跨境电商最...

手把手教你在 Spring Boot3 里纯编码实现自定义分布式锁

为什么要自己实现分布式锁?你是不是早就受够了引入各种第三方依赖时的繁琐?尤其是分布式锁这块,每次集成Redisson或者Zookeeper,都得额外维护一堆配置,有时候还会因为版本兼容问题头疼半...

如何设计一个支持百万级实时数据推送的WebSocket集群架构?

面试解答:要设计一个支持百万级实时数据推送的WebSocket集群架构,需从**连接管理、负载均衡、水平扩展、容灾恢复**四个维度切入:连接层设计-**长连接优化**:采用Netty或Und...

Redis数据结构总结——面试最常问到的知识点

Redis作为主流的nosql存储,面试时经常会问到。其主要场景是用作缓存,分布式锁,分布式session,消息队列,发布订阅等等。其存储结构主要有String,List,Set,Hash,Sort...

skynet服务的缺陷 lua死循环

服务端高级架构—云风的skynet这边有一个关于云风skynet的视频推荐给大家观看点击就可以观看了!skynet是一套多人在线游戏的轻量级服务端框架,使用C+Lua开发。skynet的显著优点是,...

七年Java开发的一路辛酸史:分享面试京东、阿里、美团后的心得

前言我觉得有一个能够找一份大厂的offer的想法,这是很正常的,这并不是我们的饭后谈资而是每个技术人的追求。像阿里、腾讯、美团、字节跳动、京东等等的技术氛围与技术规范度还是要明显优于一些创业型公司...

mysql mogodb es redis数据库之间的区别

1.MySQL应用场景概念:关系型数据库,基于关系模型,使用表和行存储数据。优点:支持ACID事务,数据具有很高的一致性和完整性。缺点:垂直扩展能力有限,需要分库分表等方式扩展。对于复杂的查询和大量的...

redis,memcached,nginx网络组件

1.理解阻塞io,非阻塞io,同步io,异步io的区别2.理解BIO和AIO的区别io多路复用只负责io检测,不负责io操作阻塞io中的write,能写多少是多少,只要写成功就返回,譬如准备写500字...

SpringBoot+Vue+Redis实现验证码功能

一个小时只允许发三次验证码。一次验证码有效期二分钟。SpringBoot整合Redis...

AWS MemoryDB 可观测最佳实践

AWSMemoryDB介绍AmazonMemoryDB是一种完全托管的、内存中数据存储服务,专为需要极低延迟和高吞吐量的应用程序而设计。它与Redis和Memcached相似,但具有更...

从0构建大型AI推荐系统:实时化引擎从工具到生态的演进

在AI浪潮席卷各行各业的今天,推荐系统正从幕后走向前台,成为用户体验的核心驱动力。本文将带你深入探索一个大型AI推荐系统从零起步的全过程,揭示实时化引擎如何从单一工具演进为复杂生态的关键路径。无论你是...

取消回复欢迎 发表评论: