面试官:说说如何解决Redis中的大热Key问题
mhr18 2024-12-06 16:16 23 浏览 0 评论
在技术面试中,Redis方向还是有挺多高频问题的,比如:击穿、穿透、雪崩、分布式锁、持久化方式、单线程改多线程等等。
除此之外,还有一个相对高频的面试题,那就是“Redis中如何解决大热Key问题”。而且,这也是一个比较务实的好问题。
毕竟相对而言,没有20年的脑残功力,谁也不会让Redis中的Key在同一时刻全部失效,引发缓存雪崩问题,也很少有人读取数据库后不将Key重新加载进Redis,任由它来个缓存击穿。
接下来言归正传,讲讲什么是Redis中的大热Key,以及会造成哪些影响。
Redis中的大热Key问题
先说说什么是大Key,这个不能顾名思义,其实是该Key所对应的value值比较大(如:大于1MB),存储它会占用比较大的内存空间,在进行读取的时候也会占用很大的网络带宽。
一般来讲,String类型的大Key相对少一些,集合类型(List、Set、ZSet、Hash)由于其包含的元素较多,则比较容易产生大Key。
其实大Key本身所带来的影响并不大,用户每秒钟请求它一两次的不会产生任何问题,最怕的就是大Key + 热Key双鬼拍门。
我们以常见的千兆网卡来计算,其最大传输速度为每秒钟128MB,那就意味着如果Redis的大Key为1MB、每秒钟有100多个请求打到该台服务器上,就能将这台Redis服务器的网卡打满,从而影响系统可用性。
如下图所示,一旦Redis Cluster中存储大热Key节点的网卡被打满,就会导致集群中的资源消耗倾斜,不仅大热Key的请求被影响,就连该节点下的其他请求也会被影响。
如何解决大热Key问题
嗯,既然问题出现了,我们还是希望通过有效的方式去解决它。下面就来盘点一下几种常见的解决方案。
1、雨露均沾法
这种方案应该是代码改动量最小、见效最快的方式了,甚至都可以用来做Hotfix。如下图所示:
嗯,这样是不是就雨露均沾了?
有的同学可能会说,我的系统中只有一个大热Key,怎么才能让它均摊到各个服务器中呢?
其实很简单,我们想想海量数据下的分库分表是如何做的呢?举个例子,原本是一张order表,分库分表后变成了order00、order01、......、order99。
如下图所示:
Redis Cluster也是一样的,如果是三主三从的话,我们将其后缀取数范围设置为0 — 14,这样可以将它的存储和请求流量相对均匀地分散开,单服务器所承载的请求量降低为原来的1/3。
具体落地步骤如下:
(1)当该大热Key出现set、del操作时,需要将该大热key所对应的0 — 14后缀全部进行添加、更新和删除操作,以保证其数据的一致性。
(2)当该大热Key出现get操作时,需要将该大热key所对应的0 — 14后缀中随机挑选一个进行读取,以保证其热点分散化。
生成随机数的代码很简单,使用Java中的Random工具类即可。
import java.util.Random;
public class RandomNumberGenerator {
public static void main(String[] args) {
Random random = new Random();
// 生成一个0到14之间的随机数
int randomNumber = random.nextInt(15);
System.out.println(randomNumber);
}
}
“雨露均沾法“适用于该大热Key的改动较少,且请求访问量级可控,不会让Redis Cluster网卡成为瓶颈的场景。
2、黄雀在后法
如果用了“雨露均沾”法仍然不能解决问题,此时我们可以考虑用该种方法。
因为绝大多数情况下,一个系统应用服务器的数量一定是多于Redis Cluster主节点的数量的,我们就可以通过Local Cache来在前面顶一波大热Key了,只有在Local Cache失效的情况下,才会访问Redis Cluster。
如下图所示:
在系统QPS比较高的情况下,哪怕给Local Cache设置为一秒钟过期,其命中率依然会很高,应该可以替Redis Cluster挡住99%+的请求。
至于在有了Local Cache的情况下,是否还需要使用Redis Cluster进行二次防护,这是个仁者见仁智者见智的问题。
不用的话,可以减少系统的复杂度和多存储下数据一致性的问题,而用的话,则可以保护数据库这个最为系统链路中最为稀缺的资源。
”黄雀在后法“适用于对该大热Key的改动较少,且对数据实时性要求不是很高的业务场景。
3、先行过滤法
实话实说,我认为99%的大热Key问题,都可以通过重新梳理业务逻辑的方式解决的。
其原因在于,无论是我们的PC端还是手机端,当前能给用户看到的屏幕内容是非常有限的,一定是对大热Key进行二次数据过滤后,才返回给客户端的。
如下图所示:
基于此种情况,我们可以将数据筛选过滤这个动作前置化,下沉到往Redis Cluster中生成数据的时候进行,或是从Redis Cluster中获取数据的时候进行,这样就不会再出现网卡被打满,从而影响系统可用性的情况。
举个例子,很多同学都喜欢通过Redis中的ZSet数据类型去构建排行榜,但在某些业务场景下排行榜中的元素会比较多,比如:电商平台上的热门商品排行榜。
此时,如果循规蹈矩、一个不落地把平台上的所有商品全部吃进ZSet中,那肯定妥妥的是一个大热Key。
但换个角度思考,该排行榜在服务器端一定会进行数据过滤的,最终展示给用户会一定是下图中的样子。
在此情况下,我们其实只用ZSet存储销量Top 10的热门商品信息即可,在榜单上的商品销量增加的时候,直接进行ZINCRBY操作添加对应分数。
但为了防止榜单排名发生变化,假设排在第11名的商品的销量超过排名第10的商品上榜,我们需要通过后台的定时任务来定期重构商品榜单。
这种方案就是先行过滤数据来减少网络资源消耗的方案,并在一定程度上牺牲了数据时延性。
”先行过滤法“可以从根本上解决大热Key的问题,但会改动到核心的代码逻辑,且需要case by case地进行问题分析,并不存在一个通用的解决方案。
结语
我想文章讲到这里,无论是应对面试官的刁难还是解决项目中的实际问题,都应该已经足够了。
相关推荐
- 使用 Docker 部署 Java 项目(通俗易懂)
-
前言:搜索镜像的网站(推荐):DockerDocs1、下载与配置Docker1.1docker下载(这里使用的是Ubuntu,Centos命令可能有不同)以下命令,默认不是root用户操作,...
- Spring Boot 3.3.5 + CRaC:从冷启动到秒级响应的架构实践与踩坑实录
-
去年,我们团队负责的电商订单系统因扩容需求需在10分钟内启动200个Pod实例。当运维组按下扩容按钮时,传统SpringBoot应用的冷启动耗时(平均8.7秒)直接导致流量洪峰期出现30%的请求超时...
- 《github精选系列》——SpringBoot 全家桶
-
1简单总结1SpringBoot全家桶简介2项目简介3子项目列表4环境5运行6后续计划7问题反馈gitee地址:https://gitee.com/yidao620/springbo...
- Nacos简介—1.Nacos使用简介
-
大纲1.Nacos的在服务注册中心+配置中心中的应用2.Nacos2.x最新版本下载与目录结构3.Nacos2.x的数据库存储与日志存储4.Nacos2.x服务端的startup.sh启动脚...
- spring-ai ollama小试牛刀
-
序本文主要展示下spring-aiollama的使用示例pom.xml<dependency><groupId>org.springframework.ai<...
- SpringCloud系列——10Spring Cloud Gateway网关
-
学习目标Gateway是什么?它有什么作用?Gateway中的断言使用Gateway中的过滤器使用Gateway中的路由使用第1章网关1.1网关的概念简单来说,网关就是一个网络连接到另外一个网络的...
- Spring Boot 自动装配原理剖析
-
前言在这瞬息万变的技术领域,比了解技术的使用方法更重要的是了解其原理及应用背景。以往我们使用SpringMVC来构建一个项目需要很多基础操作:添加很多jar,配置web.xml,配置Spr...
- 疯了!Spring 再官宣惊天大漏洞
-
Spring官宣高危漏洞大家好,我是栈长。前几天爆出来的Spring漏洞,刚修复完又来?今天愚人节来了,这是和大家开玩笑吗?不是的,我也是猝不及防!这个玩笑也开的太大了!!你之前看到的这个漏洞已...
- 「架构师必备」基于SpringCloud的SaaS型微服务脚手架
-
简介基于SpringCloud(Hoxton.SR1)+SpringBoot(2.2.4.RELEASE)的SaaS型微服务脚手架,具备用户管理、资源权限管理、网关统一鉴权、Xss防跨站攻击、...
- SpringCloud分布式框架&分布式事务&分布式锁
-
总结本文承接上一篇SpringCloud分布式框架实践之后,进一步实践分布式事务与分布式锁,其中分布式事务主要是基于Seata的AT模式进行强一致性,基于RocketMQ事务消息进行最终一致性,分布式...
- SpringBoot全家桶:23篇博客加23个可运行项目让你对它了如指掌
-
SpringBoot现在已经成为Java开发领域的一颗璀璨明珠,它本身是包容万象的,可以跟各种技术集成。本项目对目前Web开发中常用的各个技术,通过和SpringBoot的集成,并且对各种技术通...
- 开发好物推荐12之分布式锁redisson-sb
-
前言springboot开发现在基本都是分布式环境,分布式环境下分布式锁的使用必不可少,主流分布式锁主要包括数据库锁,redis锁,还有zookepper实现的分布式锁,其中最实用的还是Redis分...
- 拥抱Kubernetes,再见了Spring Cloud
-
相信很多开发者在熟悉微服务工作后,才发现:以为用SpringCloud已经成功打造了微服务架构帝国,殊不知引入了k8s后,却和CloudNative的生态发展脱轨。从2013年的...
- Zabbix/J监控框架和Spring框架的整合方法
-
Zabbix/J是一个Java版本的系统监控框架,它可以完美地兼容于Zabbix监控系统,使得开发、运维等技术人员能够对整个业务系统的基础设施、应用软件/中间件和业务逻辑进行全方位的分层监控。Spri...
- SpringBoot+JWT+Shiro+Mybatis实现Restful快速开发后端脚手架
-
作者:lywJee来源:cnblogs.com/lywJ/p/11252064.html一、背景前后端分离已经成为互联网项目开发标准,它会为以后的大型分布式架构打下基础。SpringBoot使编码配置...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)