百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

redis集群key的打散

mhr18 2024-11-30 12:26 13 浏览 0 评论

问题:

有n个分片的key,key需要记录业务标识,日期和分片id,大致是这样commonStock:uspAward:20221124:1,怎样去设置redis的key,可以更加均衡地设置到redis集群中不同的节点上?

1、如何确定key的会落在redis集群的哪个槽点(slotid)

redis集群中根据key的slotId决定将key存储在集群哪个节点的slot段中。redis集群计算key的slotId方法:CRC16(key)%16384,可以使用lettuce的java客户端计算键的槽值,如:CRC16.crc16("xxxxx".getBytes())%16384

2、找dba要来一份线上的redis集群各个机器的slot分布情况,比如这样:

						String slot1 = "10376,15566-16383";
            String slot2 = "0-182,378-560,819-1089,1638-1818,8465";
            String slot3 = "2458-2460,4656,7773-8192,10104-10194,10649,11089-11288,13765-13867";
						......

测试代码如下:


 @Test
    public void test() {
        try {

            String slot1 = "10376,15566-16383";
            String slot2 = "0-182,378-560,819-1089,1638-1818,8465";
            String slot3 = "2458-2460,4656,7773-8192,10104-10194,10649,11089-11288,13765-13867";
        		....//省略实际的slot分布,这里输入实际的即可
            List<String> slotList = new ArrayList<>();
            slotList.add(slot1);
            slotList.add(slot2);
            slotList.add(slot3);
         		......//省略实际的slot分布,这里输入实际的即可

            Set<String> totalShardingList = new HashSet<>();//汇总实际一共可以落到多少个机器

//            String keyFormat = "commonStock:uspAward:%s:%s";
            String keyFormat = "%s:%s:commonStock:uspAward"; //尝试各种不同格式的key
            for(int i=0; i<40; i++){
                String key = String.format(keyFormat, i, "20221124");
                String slot = getSlotBySlotId(key, slotList);//计算落在哪台机器
                totalShardingList.add(slot);
            }

            System.out.println("========size=====" + totalShardingList.size());

        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    private String getSlotBySlotId(String key, List<String> slotList) {

        int slotId = CRC16.crc16(key.getBytes()) % 16384;
        for (String slotStr : slotList) {
            String[] arr = slotStr.split(",");
            for (String one : arr) {
                if (one.contains("-")){
                    String[] slotIdRangeArr = one.split("-");
                    Integer minSlotId = Integer.valueOf(slotIdRangeArr[0]);
                    Integer maxSlotId = Integer.valueOf(slotIdRangeArr[1]);

                    if (slotId >= minSlotId && slotId <= maxSlotId){
                        return slotStr;
                    }
                }else{
                    if (slotId == Integer.valueOf(one).intValue()){
                        return slotStr;
                    }
                }
            }
        }
        return null;
    }

3、实测:

下面的分片N个,表示分片id取1-N,比如分片20个,指的是分片id取值1到20,另外假设redis集群机器数为20个

实验1:

key=commonStock:uspAward:(分片id):(yyyyMMdd) ,分片20个,最终打散到10个机器,节点利用率50%

实验2:

key=commonStock:uspAward:(分片id):(yyyyMMdd),分片40个,最终打散到19到20个机器,节点利用率95%左右

实验3:

key=(分片id):(yyyyMMdd):commonStock:uspAward ,分片20个,最终打散到15个机器,节点利用率75%

实验4:

key=(分片id):(yyyyMMdd):commonStock:uspAward ,分片40个,最终打散到19到20个机器,节点利用率95%左右

4、总结:

所以,尽量增加key的分片数,可以提高节点的利用率,key里面的的常量值在前或者后有影响,但是没有直接增加分片数效果好

相关推荐

京东大佬问我,每天新增100w订单数据的分库分表方案

京东大佬问我,每天新增100w订单数据的分库分表方案嗯,用户问的是高并发订单系统的分库分表方案,每天新增100万订单。首先,我得理解需求。每天100万订单,那每秒大概是多少呢?算一下,100万除以86...

MySQL 内存使用构成解析与优化实践

在为HULK平台的MySQL提供运维服务过程中,我们常常接到用户反馈:“MySQL内存使用率过高”。尤其在业务高峰期,监控中内存占用持续增长,即便数据库运行正常,仍让人怀疑是否存在异常,甚至...

阿里云国际站:怎样计算内存优化型需求?

本文由【云老大】TG@yunlaoda360撰写一、内存优化型实例的核心价值内存优化型ECS实例专为数据密集型场景设计,具有以下核心优势:高内存配比:内存与CPU比例可达1:8(如ecs.re6....

MySQL大数据量处理常用解决方案

1、读写分离读写分离,将数据库的读写操作分开,比如让性能比较好的服务器去做写操作,性能一般的服务器做读操作。写入或更新操作频繁可以借助MQ,进行顺序写入或更新。2、分库分表分库分表是最常规有效的一种大...

1024程序员节 花了三个小时调试 集合近50种常用小工具 开源项目

开篇1024是程序员节了,本来我说看个开源项目花半个小时调试之前看的一个不错的开源项目,一个日常开发常常使用的工具集,结果花了我三个小时,开源作者的开源项目中缺少一些文件,我一个个在网上找的,好多坑...

免费全开源,功能强大的多连接数据库管理工具!-DbGate

DBGate是一个强大且易于使用的开源数据库管理工具,它提供了一个统一的Web界面,让你能够轻松地访问和管理多种类型的数据库。无论你是开发者、数据分析师还是DBA,DBGate都能帮助你提升工作效率...

10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
使用operator部署Prometheus

一、介绍Operator是CoreOS公司开发,用于扩展kubernetesAPI或特定应用程序的控制器,它用来创建、配置、管理复杂的有状态应用,例如数据库,监控系统。其中Prometheus-Op...

java学习总结

SpringBoot简介https://spring.io/guideshttp://www.spring4all.com/article/246http://www.spring4all.com/a...

Swoole难上手?从EasySwoole开始

前言有些童鞋感觉对Swoole不从下手,也不知在什么业务上使用它,看它这么火却学不会也是挺让人捉急的一件事情。Swoole:面向生产环境的PHP异步网络通信引擎啥是异步网络通信?10年架构师领你架...

一款商用品质的开源商城系统(Yii2+Vue2.0+uniapp)

一、项目简介这是一套很成熟的开源商城系统【开店星】,之前推过一次,后台感兴趣的还不少,今天再来详细介绍一下:基于Yii2+Vue2.0+uniapp框架研发,代码质量堪称商用品质,下载安装无门槛,UI...

Yii2中对Composer的使用

如何理解Composer?若使用Composer我们应该先知道这是一个什么东西,主要干什么用的,我们可以把Composer理解为PHP包的管理工具,管理我们用到的Yii2相关的插件。安装Compose...

SpringBoot实现OA自动化办公管理系统源码+代码讲解+开发文档

今天发布的是由【猿来入此】的优秀学员独立做的一个基于springboot脚手架的自动化OA办公管理系统,主要实现了日常办公的考勤签到等一些办公基本操作流程的全部功能,系统分普通员工、部门经理、管理员等...

7层架构解密:从UI到基础设施,打造真正可扩展的系统

"我们系统用户量暴增后完全崩溃了!"这是多少工程师的噩梦?选择正确的数据库只是冰山一角,真正的系统扩展性是一场全栈战役。客户端层:用户体验的第一道防线当用户点击你的应用时,0.1秒...

Win11系统下使用Django+Celery异步任务队列以及定时(周期)任务

首先明确一点,celery4.1+的官方文档已经详细说明,该版本之后不需要引入依赖django-celery这个库了,直接用celery本身就可以了,就在去年年初的一篇文章python3.7....

取消回复欢迎 发表评论: