value中存储过多的元素-Redis大key多key拆分方案
mhr18 2025-03-14 18:55 29 浏览 0 评论
背景
在我的项目中，会存在一个DG下拥有10w+的学生，每个学生在进入直播之前，都需要通过校验，查询是否是这个直播所关联DG下的学生；为了提高并发，我们把大纲和学生的关系存入Redis中，使用set存储，那么一个DG的key会存储过多的元素（学生ID），形成Redis大key的情况。
在阿里云 Redis 的开发规范, 对value设计有以下建议：
- 1)【强制】：拒绝 bigkey(防止网卡流量、慢查询) string 类型控制在 10KB 以内，hash、list、set、zset 元素个数不要超过 5000。
反例：一个包含 200 万个元素的 list。
非字符串的 bigkey，不要使用 del 删除，使用 hscan、sscan、zscan 方式渐进式删除，同时要注意防止 bigkey 过期时间自动删除问题 (例如一个 200 万的 zset 设置 1 小时过期，会触发 del 操作，造成阻塞，而且该操作不会不出现在慢查询中 (latency 可查))，查找方法和删除方法
value中存储过多的元素拆分方案
类似这种场景，可以将这些元素分拆。
现在，固定一个桶（bucket）的数量，比如 5000， 每次存取的时候，先在本地计算field的hash值，模除 5000， 确定了该field落在哪个key上。
以上的DG学生场景，我们根据学生ID模除5000，确定该学生落在哪个key上；
为了方便获取大纲下所有的学生ID，那么维护一个key来存储大纲学生key的集合（学生ID模除 5000的值）
下图简要说明我们是怎么设计实现的：
- 我们定义每个key为一个桶，那么这个桶 bucket=学生ID模除5000
- 为了快速查询所有桶，把桶的序号存储在 her:sy:{syllabusId}:b key的set集合中
- 其中 syllabusId 为DG
不适合的场景
如果要保证 SPOP 的数据的确是集合中的一个随机元素，这个就需要一些附加的属性，或者是在key的拼接上做一些工作
相关推荐
- Redis合集-使用benchmark性能测试
-
采用开源Redis的redis-benchmark工具进行压测，它是Redis官方的性能测试工具，可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译，详情请参见Redis...
- Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好
-
最近看了几十份简历，发现大部分人不是技术差，而是不会“卖自己”——一、简历死穴：你写的不是经验，是岗位说明书！反面教材：ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法：...
- redission YYDS（redission官网）
-
每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架，它提供了各种锁实现，包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...
- 从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道
-
2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时，订单系统却产生了1200笔有效订单。事故复盘发...
- SpringBoot系列——实战11:接口幂等性的形而上思...
-
欢迎关注、点赞、收藏。幂等性不仅是一种技术需求，更是数字文明对确定性追求的体现。在充满不确定性的网络世界中，它为我们建立起可依赖的存在秩序，这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...
- 如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享
-
如何优化系统架构设计缓解流量压力提升并发性能？Java实战分享在高流量场景下。首先，我需要回忆一下常见的优化策略，比如负载均衡、缓存、数据库优化、微服务拆分这些。不过，可能还需要考虑用户的具体情况，比...
- Java面试题: 项目开发中的有哪些成长?该如何回答
-
在Java面试中，当被问到“项目中的成长点”时，面试官不仅想了解你的技术能力，更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例，帮助你清晰、有说服力地展示成长点：一...
- 互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?
-
你有没有遇到过这样的情况？在电商大促时，系统上线了抢券活动，结果活动刚一开始，服务器就不堪重负，出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮，最后却被告知无券可抢，体验极差。作为互联网大厂的后...
- 每日一题 |10W QPS高并发限流方案设计(含真实代码)
-
面试场景还原面试官：“如果系统要承载10WQPS的高并发流量，你会如何设计限流方案？”你：“（稳住，我要从限流算法到分布式架构全盘分析）…”一、为什么需要限流？核心矛盾：系统资源（CPU/内存/数据...
- Java面试题:服务雪崩如何解决?90%人栽了
-
服务雪崩是指微服务架构中，由于某个服务出现故障，导致故障在服务之间不断传递和扩散，最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法：限流限制请求速率：通过限流算法（如令牌桶算法、漏桶算...
- 面试题官:高并发经验有吗，并发量多少，如何回复?
-
一、有实际高并发经验（建议结构）直接量化"在XX项目中，系统日活用户约XX万，核心接口峰值QPS达到XX，TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...
- 瞬时流量高并发“保命指南”:这样做系统稳如泰山，老板跪求加薪
-
“系统崩了，用户骂了，年终奖飞了！”——这是多少程序员在瞬时大流量下的真实噩梦？双11秒杀、春运抢票、直播带货……每秒百万请求的冲击，你的代码扛得住吗？2025年了，为什么你的系统一遇高并发就“躺平”...
- 其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。
-
其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。比如上周有个小伙伴找我，五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他：你做的秒杀...
- PHP技能评测（php等级考试）
-
公司出了一些自我评测的PHP题目，现将题目和答案记录于此，以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct()，类的构造函数__destruct()，类的析构函数__cal...
- 你的简历在HR眼里是青铜还是王者?
-
你的简历在HR眼里是青铜还是王者？兄弟，简历投了100份没反应？面试总在第三轮被刷？别急着怀疑人生，你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)