如何解决高并发下的redis热点key问题?
mhr18 2024-10-25 12:39 52 浏览 0 评论
redis现在已经成为大家软件开发过程中必不可少的缓存中间件了,合理的使用redis,可以使我们的线上服务在应对高并发时候变的游刃有余,极大的减轻了数据库服务的压力。
您可以通过本文了解redis热点key问题。
今天给大家带来的是如何解决高并发访问下的redis热key问题以及相关解决方案。主要内容有如下几个部分:
- 什么是redis的热点key问题?
- 什么是缓存穿透?
- 什么是缓存雪崩?
- 如何快速的发现热点key?
- 业内解决缓存热key的一些方案(有赞技术方案、阿里云Redis最佳实践)
- 设计一个实时发现并解决热点key的技术方案?
什么是redis 的热key问题?
在突发情况下、短时间内出现大量请求同时访问redis的某些特定的key。
大量的访问请求瞬时怼到指定的一台或多台(主从节点的情况下)redis服务器上,占据大量带宽的同时,也给redis服务器带来了较大的压力。严重的情况下,redis服务器可能会无法承受访问请求压力导致缓存服务器响应缓慢甚至宕机。这时候所有的请求都会直接去访问数据库,缓存服务器都无法承受住请求压力,数据库可想而知,导致线上数据库无法响应而宕机,最终所有服务都无法响应,产生严重的线上事故。
常见的容易产生热点key的有以下场景:
- 商品秒杀:同一个商品短时间内产生大量请求,产生商品详情、库存、下单链路等热点缓存
- 微博明星、大V宣布恋情(例如鹿晗宣布与关晓彤的恋情搞挂微博)
- 热点新闻、热点评论等
什么是缓存穿透?
上面的代码给大家展示了一个典型的缓存穿透的例子,简单流程示意图如下:
当这条数据不存在的时候,我们始终都无法从缓存中获取到这条数据,这个时候就会再次请求数据库。当这个漏洞被不法分子利用,大量请求这条数据的时候,就会直接查询到数据库。这就是所谓的“缓存穿透”。
缓存穿透并不复杂,最简单的解决方案就是即使数据库查询到的数据为null时候也写缓存。但是把缓存的过期时间设置短一点,比如1分钟,过期了再走一遍数据库查询数据是否存在,这样既可很好的避免缓存穿透的问题。
什么是缓存雪崩?
缓存雪崩指的是在某一时间段,缓存中大量的key集中过期失效。
例如线上所有的商品详情都存在redis中,且设置为一个小时过期。这样当过了一个小时之后,所有的商品详情缓存数据都集中过期,线上所有请求商品详情的业务都会去请求数据库,数据库将会承受较大的压力,且周期出现。
知道问题的现象和产生的原因后,怎么解决也就容易多了,制定一定的策略,保证redis中的key不要在同一个时间点集中失效,将所有要过期的key分散到各个时间点逐步的过期即可。
如何快速的发现热点key
了解了上面的热点key问题、缓存穿透、缓存雪崩,我们再一起来看看如何发现热点key。如果我们无法及时的发现热点key,就无法及时的处理热点key可能造成的问题,及时监控并处理,防患于未然才能让线上的服务长治久安。
发现热key的方式可以有如下几种:
- 业务明确的情况下,可以评估出是否存在热点key,上线前即可准备好相关处理方案;
- redis自带的monitor命令可以实时抓取到redis服务器接收到的命令,但是该命令对redis的性能有一定的影响,要知道redis可是单线程的。高并发情况下不可取;
- 收集redis key访问日志,实时计算出热点key排名
业内解决缓存热key的一些方案
那么发现了热点key如何解决呢?
有赞TMC方案
这里推荐大家看一下有赞技术团队的TMC方案《有赞透明多级缓存解决方案(TMC)》,不仅提供了发现热点key的方法并提供了系统的解决方案。
基本架构设计思想如下(文末会提供参考文章链接):
阿里云redis最佳实践
现在中小企业都上云了,阿里云的redis相信大家一定不陌生,针对redis热点key问题的发现与解决,在redis最佳实践文档中也做了详细的说明,大家也可以详细了解一下阿里云redis的设计思路。
设计一个实时发现并解决热点key的技术方案
如果让我们自己来设计这样的一个服务,如何来设计呢?这里提出问题,欢迎各位技术大佬“八仙过海,各显神通”。
- 这个系统应该具有哪些功能?
- 有什么样的挑战?
- 如何做到高可用?
- 采用什么样的技术或算法?
欢迎评论区留言讨论~
我是【Java架构设计】,您的点赞评论是我最大的动力!关注我,持续为您分享技术干货!
参考文章:
《有赞透明多级缓存解决方案(TMC)》
链接:https://segmentfault.com/a/1190000017142556#articleHeader4
《阿里云redis最佳实践-热点key问题的发现与解决》
链接:https://help.aliyun.com/document_detail/67252.html#title-rpb-0kp-un1
相关推荐
- 【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库
-
如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...
- Pure Storage推出统一数据管理云平台及新闪存阵列
-
PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...
- 对Java学习的10条建议(对java课程的建议)
-
不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...
- SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!
-
官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...
- JDK21有没有什么稳定、简单又强势的特性?
-
佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...
- 「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了
-
在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...
- Java面试题及答案最全总结(2025版)
-
大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...
- 数据库日常运维工作内容(数据库日常运维 工作内容)
-
#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...
- 分布式之系统底层原理(上)(底层分布式技术)
-
作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...
- oracle 死锁了怎么办?kill 进程 直接上干货
-
1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...
- SpringBoot 各种分页查询方式详解(全网最全)
-
一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...
- 《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略
-
《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...
- LoadRunner(loadrunner录制不到脚本)
-
一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...
- Redis数据类型介绍(redis 数据类型)
-
介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...
- RMAN备份监控及优化总结(rman备份原理)
-
今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)