redis集群key的打散
mhr18 2024-11-30 12:26 21 浏览 0 评论
问题:
有n个分片的key,key需要记录业务标识,日期和分片id,大致是这样commonStock:uspAward:20221124:1,怎样去设置redis的key,可以更加均衡地设置到redis集群中不同的节点上?
1、如何确定key的会落在redis集群的哪个槽点(slotid)
redis集群中根据key的slotId决定将key存储在集群哪个节点的slot段中。redis集群计算key的slotId方法:CRC16(key)%16384,可以使用lettuce的java客户端计算键的槽值,如:CRC16.crc16("xxxxx".getBytes())%16384
2、找dba要来一份线上的redis集群各个机器的slot分布情况,比如这样:
String slot1 = "10376,15566-16383";
String slot2 = "0-182,378-560,819-1089,1638-1818,8465";
String slot3 = "2458-2460,4656,7773-8192,10104-10194,10649,11089-11288,13765-13867";
......
测试代码如下:
@Test
public void test() {
try {
String slot1 = "10376,15566-16383";
String slot2 = "0-182,378-560,819-1089,1638-1818,8465";
String slot3 = "2458-2460,4656,7773-8192,10104-10194,10649,11089-11288,13765-13867";
....//省略实际的slot分布,这里输入实际的即可
List<String> slotList = new ArrayList<>();
slotList.add(slot1);
slotList.add(slot2);
slotList.add(slot3);
......//省略实际的slot分布,这里输入实际的即可
Set<String> totalShardingList = new HashSet<>();//汇总实际一共可以落到多少个机器
// String keyFormat = "commonStock:uspAward:%s:%s";
String keyFormat = "%s:%s:commonStock:uspAward"; //尝试各种不同格式的key
for(int i=0; i<40; i++){
String key = String.format(keyFormat, i, "20221124");
String slot = getSlotBySlotId(key, slotList);//计算落在哪台机器
totalShardingList.add(slot);
}
System.out.println("========size=====" + totalShardingList.size());
} catch (Exception e) {
e.printStackTrace();
}
}
private String getSlotBySlotId(String key, List<String> slotList) {
int slotId = CRC16.crc16(key.getBytes()) % 16384;
for (String slotStr : slotList) {
String[] arr = slotStr.split(",");
for (String one : arr) {
if (one.contains("-")){
String[] slotIdRangeArr = one.split("-");
Integer minSlotId = Integer.valueOf(slotIdRangeArr[0]);
Integer maxSlotId = Integer.valueOf(slotIdRangeArr[1]);
if (slotId >= minSlotId && slotId <= maxSlotId){
return slotStr;
}
}else{
if (slotId == Integer.valueOf(one).intValue()){
return slotStr;
}
}
}
}
return null;
}
3、实测:
下面的分片N个,表示分片id取1-N,比如分片20个,指的是分片id取值1到20,另外假设redis集群机器数为20个
实验1:
key=commonStock:uspAward:(分片id):(yyyyMMdd) ,分片20个,最终打散到10个机器,节点利用率50%
实验2:
key=commonStock:uspAward:(分片id):(yyyyMMdd),分片40个,最终打散到19到20个机器,节点利用率95%左右
实验3:
key=(分片id):(yyyyMMdd):commonStock:uspAward ,分片20个,最终打散到15个机器,节点利用率75%
实验4:
key=(分片id):(yyyyMMdd):commonStock:uspAward ,分片40个,最终打散到19到20个机器,节点利用率95%左右
4、总结:
所以,尽量增加key的分片数,可以提高节点的利用率,key里面的的常量值在前或者后有影响,但是没有直接增加分片数效果好
- 上一篇:Redis 常用数据类型之String(字符串)
- 下一篇:Redis热Key监控
相关推荐
- Spring Boot 分布式事务实现简单得超乎想象
-
环境:SpringBoot2.7.18+Atomikos4.x+MySQL5.71.简介关于什么是分布式事务,本文不做介绍。有需要了解的自行查找相关的资料。本篇文章将基于SpringBoot...
- Qt编写可视化大屏电子看板系统15-曲线面积图
-
##一、前言曲线面积图其实就是在曲线图上增加了颜色填充,单纯的曲线可能就只有线条以及数据点,面积图则需要从坐标轴的左下角和右下角联合曲线形成完整的封闭区域路径,然后对这个路径进行颜色填充,为了更美观...
- Doris大数据AI可视化管理工具SelectDB Studio重磅发布!
-
一、初识SelectDBStudioSelectDBStudio是专为ApacheDoris湖仓一体典型场景实战及其兼容数据库量身打造的GUI工具,简化数据开发与管理。二、Select...
- RAD Studio 、Delphi或C++Builder设计代码编译上线缩短开发时间
-
#春日生活打卡季#本月,Embarcadero宣布RADStudio12.3Athens以及Delphi12.3和C++Builder12.3,提供下载。RADStudio12.3A...
- Mybatis Plus框架学习指南-第三节内容
-
自动填充字段基本概念MyBatis-Plus提供了一个便捷的自动填充功能,用于在插入或更新数据时自动填充某些字段,如创建时间、更新时间等。原理自动填充功能通过实现com.baomidou.myba...
- 「数据库」Sysbench 数据库压力测试工具
-
sysbench是一个开源的、模块化的、跨平台的多线程性能测试工具,可以用来进行CPU、内存、磁盘I/O、线程、数据库的性能测试。目前支持的数据库有MySQL、Oracle和PostgreSQL。以...
- 如何选择适合公司的ERP(选erp系统的经验之谈)
-
很多中小公司想搞ERP,但不得要领。上ERP的目的都是歪的,如提高效率,减少人员,堵住财务漏洞等等。真正用ERP的目的是借机提升企业管理能力,找出管理上的问题并解决,使企业管理更规范以及标准化。上ER...
- Manus放开注册,但Flowith才是Agent领域真正的yyds
-
大家好,我是运营黑客。前天,AIAgent领域的当红炸子鸡—Manus宣布全面放开注册,终于,不需要邀请码就能体验了。于是,赶紧找了个小号去确认一下。然后,额……就被墙在了外面。官方解释:中文版...
- 歌浓酒庄总酿酒师:我们有最好的葡萄园和最棒的酿酒师
-
中新网1月23日电1月18日,张裕董事长周洪江及总经理孙健一行在澳大利亚阿德莱德,完成了歌浓酒庄股权交割签约仪式,这也意味着张裕全球布局基本成型。歌浓:澳大利亚年度最佳酒庄据悉,此次张裕收购的...
- 软件测试进阶之自动化测试——python+appium实例
-
扼要:1、了解python+appium进行APP的自动化测试实例;2、能根据实例进行实训操作;本课程主要讲述用python+appium对APP进行UI自动化测试的例子。appium支持Androi...
- 为什么说Python是最伟大的语言?看图就知道了
-
来源:麦叔编程作者:麦叔测试一下你的分析能力,直接上图,自己判断一下为什么Python是最好的语言?1.有图有真相Java之父-JamesGoshlingC++之父-BjarneStrou...
- 如何在Eclipse中配置Python开发环境?
-
Eclipse是著名的跨平台集成开发环境(IDE),最初主要用来Java语言开发。但是我们通过安装不同的插件Eclipse可以支持不同的计算机语言。比如说,我们可以通过安装PyDev插件,使Eclip...
- 联合国岗位上新啦(联合国的岗位)
-
联合国人权事务高级专员办事处PostingTitleIntern-HumanRightsDutyStationBANGKOKDeadlineOct7,2025CategoryandL...
- 一周安全漫谈丨工信部:拟定超1亿条一般数据泄露属后果严重情节
-
工信部:拟定超1亿条一般数据泄露属后果严重情节11月23日,工信部官网公布《工业和信息化领域数据安全行政处罚裁量指引(试行)(征求意见稿)》。《裁量指引》征求意见稿明确了行政处罚由违法行为发生地管辖、...
- oracle列转行以及C#执行语句时报错问题
-
oracle列转行的关键字:UNPIVOT,经常查到的怎么样转一列,多列怎么转呢,直接上代码(sshwomeyourcode):SELECTsee_no,diag_no,diag_code,...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (59)
- oracle 空为0 (51)
- oracle主从同步 (56)
- oracle 乐观锁 (53)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)