百度360必应搜狗淘宝本站头条
php redisredis 命令redis 锁redis 主从redis 删除
当前位置：网站首页 > 技术教程 > 正文

缓存Bigkey坚决不要用，拆分是王道

mhr18 2024-12-05 14:44 15 浏览 0 评论

大家好，我是架构摆渡人。这是实践经验系列的第四篇文章，这个系列会给大家分享很多在实际工作中有用的经验，如果有收获，还请分享给更多的朋友。

背景介绍

在高并发的业务场景中，缓存是必须要上的，用来扛高并发。在某个业务场景中，增加了对一个配置信息的缓存，最开始是直接读取DB的，为了性能考虑在前面加了一层缓存。

加完后很长一段时间也没问题，DB的压力也减小了很多。不幸的是在某天的一个时间点内，流量增加了好几倍，RT直线上升，接口各种超时，就这样，一个线上故障诞生了。

整个过程持续了1分钟左右，监控告警稍微有点延迟，刚看完监控告警，准备介入处理时流量已经跌下来了，接口也恢复了正常。

事后，通过监控发现接口超时的原因是因为底层Redis超时了，说到这可能大家都抱着怀疑的态度，Redis这么快也能超时？是的，你没看错，就是Redis超时了。

而Redis超时的原因并不是说Redis性能不行，而是在同一时刻有大量的请求访问了同一个Key，这个Key缓存的内容很大，导致一瞬间就把网络带宽给占用完了，后续请求都进不来。

解决方案

扩容带宽

直接扩容是最简单有效的方式，如果有持续的高流量造成了影响，紧急扩容是必须要走的，先解决当前问题。

等流量平稳后再考虑代码层面的改造，因为带宽也不是无限的，程序不处理好，始终是个风险点。

拆分BigKey

数据量大了，我们会分库分表。耦合严重了，我们会拆新的模块或者独立的服务。小组人多了，我们会拆分成多个组。遇到BigKey，那就是拆它拆它拆它。

假设这是你的缓存内容，里面是一个很大的Json字符串，存储的是配置信息：

{
  "a":"...."，
  "b":"....",
  "c":"...."
  .........
}

那么可以把对象中的每个Key再拆分一次，作为一个独立的Key，这样它的Value就小了很多。不同的key会在集群中的不同节点上，也就不会出现集中访问某个节点，带宽不够的场景。

当然我这边说的是String类型，如果你的是List, Set这种，其实原理是一样的，同样是拆分成多个小的List, Key的前缀或者后缀不一样即可。

本地缓存

本地缓存，也是应对热点Key的常用解决方案。大家想想，一个固定的Key存储在Redis中，然后存储的内容也很大，访问量也比较高，带宽很容易成为瓶颈，因为要远程访问获取缓存内容。

如果将缓存存储在本地，那么就可以不用远程访问，从而带宽也就不会成为瓶颈。

如果用了本地缓存，相信很多读者第一想法就是一致性怎么维护，这个无论是在实际应用中还是面试中都是一个高频的问题。

还是得从业务场景触发，用缓存的场景肯定就是没有强一致性的要求，能够容忍短暂的不一致。所以在Redis缓存失效或者数据有变更的时候，本地缓存也需要同步清除。

一般都会采用消息广播的方式进行通知本地缓存失效，因为服务是集群部署的，每个节点上都有一份缓存数据，所以需要广播通知。

BigKey的治理

最后要进行BigKey的治理，梳理出来目前已有的BigKey，根据业务场景进行优化。同时在后续使用缓存的场景对缓存内容严格把关，防止出现类似的问题。

大家好，我是从古代穿越过来的美男子：架构摆渡人。我将把我的武功秘籍全部传授与你们，觉得有用请分享给身边的朋友。来个三连吧，感谢各位！另外我还在B站录制了《真实订单业务，亿级数据带你实战分库分表》的实战课程，记得去学习哦！

相关推荐

一文读懂Prometheus架构监控（prometheus监控哪些指标）

介绍Prometheus是一个系统监控和警报工具包。它是用Go编写的，由Soundcloud构建，并于2016年作为继Kubernetes之后的第二个托管项目加入云原生计算基金会（C...

Spring Boot 3.x 新特性详解:从基础到高级实战

1.SpringBoot3.x简介与核心特性1.1SpringBoot3.x新特性概览SpringBoot3.x是建立在SpringFramework6.0基础上的重大版...

「技术分享」猪八戒基于Quartz分布式调度平台实践

点击原文：【技术分享】猪八戒基于Quartz分布式调度平台实践点击关注“八戒技术团队”，阅读更多技术干货1.背景介绍1.1业务场景调度任务是我们日常开发中非常经典的一个场景，我们时常会需要用到一些不...

14. 常用框架与工具（使用的框架）

本章深入解析Go生态中的核心开发框架与工具链，结合性能调优与工程化实践，提供高效开发方案。14.1Web框架（Gin,Echo）14.1.1Gin高性能实践//中间件链优化router:=...

SpringBoot整合MyBatis-Plus:从入门到精通

一、MyBatis-Plus基础介绍1.1MyBatis-Plus核心概念MyBatis-Plus（简称MP）是一个MyBatis的增强工具，在MyBatis的基础上只做增强不做改变，为简化开发、提...

Seata源码—5.全局事务的创建与返回处理

大纲1.Seata开启分布式事务的流程总结2.Seata生成全局事务ID的雪花算法源码3.生成xid以及对全局事务会话进行持久化的源码4.全局事务会话数据持久化的实现源码5.SeataServer创...

Java开发200+个学习知识路线-史上最全(框架篇)

1.Spring框架深入SpringIOC容器：BeanFactory与ApplicationContextBean生命周期：实例化、属性填充、初始化、销毁依赖注入方式：构造器注入、Setter注...

OpenResty 入门指南:从基础到动态路由实战

一、引言1.1OpenResty简介OpenResty是一款基于Nginx的高性能Web平台，通过集成Lua脚本和丰富的模块，将Nginx从静态反向代理转变为可动态编程的应用平台...

你还在为 Spring Boot3 分布式锁实现发愁?一文教你轻松搞定!

作为互联网大厂后端开发人员，在项目开发过程中，你有没有遇到过这样的问题：多个服务实例同时访问共享资源，导致数据不一致、业务逻辑混乱？没错，这就是分布式环境下常见的并发问题，而分布式锁就是解决这类问题的...

近2万字详解JAVA NIO2文件操作，过瘾

原创：小姐姐味道（微信公众号ID：xjjdog），欢迎分享，转载请保留出处。从classpath中读取过文件的人，都知道需要写一些读取流的方法，很是繁琐。最近使用IDEA在打出.这个符号的时候，一行代...

学习MVC之租房网站(十二)-缓存和静态页面

在上一篇<学习MVC之租房网站（十一）-定时任务和云存储>学习了Quartz的使用、发邮件，并将通过UEditor上传的图片保存到云存储。在项目的最后，再学习优化网站性能的一些技术：缓存和...

Linux系统下运行c++程序（linux怎么运行c++文件）

引言为什么要在Linux下写程序？需要更多关于Linux下c++开发的资料请后台私信【架构】获取分享资料包括：C/C++，Linux，Nginx，ZeroMQ，MySQL，Redis，fastdf...

2022正确的java学习顺序(文末送java福利)

对于刚学习java的人来说，可能最大的问题是不知道学习方向，每天学了什么第二天就忘了，而课堂的讲解也是很片面的。今天我结合我的学习路线为大家讲解下最基础的学习路线，真心希望能帮到迷茫的小伙伴。（有很多...

一个 3 年 Java 程序员 5 家大厂的面试总结(已拿Offer)

前言15年毕业到现在也近三年了，最近面试了阿里集团（菜鸟网络，蚂蚁金服），网易，滴滴，点我达，最终收到点我达，网易offer，蚂蚁金服二面挂掉，菜鸟网络一个月了还在流程中...最终有幸去了网易。但是要...

多商户商城系统开发全流程解析（多商户商城源码免费下载）

在数字化商业浪潮中，多商户商城系统成为众多企业拓展电商业务的关键选择。这类系统允许众多商家在同一平台销售商品，不仅丰富了商品种类，还为消费者带来更多样的购物体验。不过，开发一个多商户商城系统是个复杂的...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表