阿里云Redis典型场景:如何构建可扩展通用排行榜系统
mhr18 2024-10-30 02:38 41 浏览 0 评论
摘要
本文主要介绍通用排行榜的需求功能,并介绍了基于Redis的ZSET数据结构的排序方法,另外探讨了通用排行榜的架构及用户如何通过阿里云Redis解决通用排行架构的技术问题。
背景
移动互联网时代的春风刮来了各种不同的业务场景,直播元年、短视频元年、类微博信息流、各种电商业务也在这个移动互联网快车上集中爆发。在这些业务中信息成为了各种场景的关键,而信息的价值往往隐藏在各种排行中,对于一个直播大V可能关注直播人数的排行榜,因为他希望萃取他家长处;对于一个商家可能关注商品浏览排行榜,因为他希望更好的区做店铺引流;对于一个游戏用户他可能关注自己在某一个群组的排行榜,因为他希望他喜欢的人能关注到他名列前茅。以此我们希望在这个文章中探讨一个基于阿里云Redis的可扩展通用的排行榜系统构建的方法。
排行榜特性
排行榜看起来简单,实际上对于通用的排行榜系统具有很高的复杂度和系统能力要求。排行榜系统首先需要定义数据源,不同数据对于排行榜系统也有不同的能力要求,我们总结了一下排行榜的特点。
排行精确性
如果一个排行榜的结果关系到用户的权益问题,这个时候一个排行榜的精确性就需要非常高,比如一个运营同学进行了根据微博转发数量的营销活动,这个时候微博转发数量的排行榜就需要非常精确,否则会影响用户权益的分发。
排行榜实时性
游戏和社交互动的结合是目前的趋势,对于热门游戏的排行是用户的关注重点,在这部分用户中对于排行的实时性有很高的要求,如果一个用户升级了自己的装备和能力,而自己的排名一直没有更新,那这个用户一定要非常伤心抛弃这个游戏了。所以通过离线计算等平台来构建一个非实时的排行榜系统就不太适合这样的模型。
排行榜功能自定义
在排行系统中有些用户只需要定期对数据进行更新即可,所以我们在排行榜系统中需要提供自定义的功能,让用户可以定义排序的周期,可以按照小时、日、周不同的周期对数据进行处理,用户再进行简单配置之后可以生成对应的排行榜单。
海量数据排行
海量数据是目前的一个趋势,比如对于淘宝全网商品的一个排行,这个榜单将会是一个亿级别的,所以我们设计的榜单也需要具备弹性伸缩能力,同时在对海量数据进行排行的时候拥有一定的实时性。
排行算法
在排行系统中我们选用Redis提供的ZSET作为基础的数据结构,ZSET是一个有序的数据集合,在这个数据集合中用户可以添加不同SCORE值的MEMBER,并且用户可以通过接口对这些有序集合根据SCORE值进行排序。ZSET这样的数据结构可以很方便的用于排行榜系统中。
假设我们需要对一个动物运动会的比赛成绩做一个排序,我们先简单的构造一个ZSET的KEY,并添加每种动物的成绩。Redis命令如下:
添加完成每个商家的销售额之后,我们可以调用Redis的zrange命令进行排序获取指定排名的商家,Redis命令如下:
如下显示了ZSET相关的命令使用方法
ZADD key score1 member1 [score2 member2]
添加一个或多个成员到有序集合,或者如果它已经存在更新其分数
ZCARD key
得到的有序集合成员的数量
ZCOUNT key min max
计算一个有序集合成员与给定值范围内的分数
ZINCRBY key increment member
在有序集合增加成员的分数
ZINTERSTORE destination numkeys key [key …]
多重交叉排序集合,并存储生成一个新的键有序集合。
ZLEXCOUNT key min max
计算一个给定的字典范围之间的有序集合成员的数量
ZRANGE key start stop [WITHSCORES]
由索引返回一个成员范围的有序集合。
ZRANGEBYLEX key min max [LIMIT offset count]
返回一个成员范围的有序集合(由字典范围)
ZRANGEBYSCORE key min max [WITHSCORES] [LIMIT]
按分数返回一个成员范围的有序集合。
ZRANK key member
确定成员的索引中有序集合
ZREM key member [member …]
从有序集合中删除一个或多个成员
ZREMRANGEBYLEX key min max
删除所有成员在给定的字典范围之间的有序集合
ZREMRANGEBYRANK key start stop
在给定的索引之内删除所有成员的有序集合
ZREMRANGEBYSCORE key min max
在给定的分数之内删除所有成员的有序集合
ZREVRANGE key start stop [WITHSCORES]
返回一个成员范围的有序集合,通过索引,以分数排序,从高分到低分
ZREVRANGEBYSCORE key max min [WITHSCORES]
返回一个成员范围的有序集合,按分数,以分数排序从高分到低分
ZREVRANK key member
确定一个有序集合成员的索引,以分数排序,从高分到低分
ZSCORE key member
获取给定成员相关联的分数在一个有序集合
ZUNIONSTORE destination numkeys key [key …]
添加多个集排序,所得排序集合存储在一个新的键
ZSCAN key cursor [MATCH pattern] [COUNT count]
增量迭代排序元素集和相关的分数
通用排行榜系统架构
对于一个通用性的排行榜系统,我们需要对服务进行Qos保证,为了达到服务分级Qos保证的能力,我们引入MetaQ或者Kafka等组件进行数据的接入,整体系统功能如下。
对于排行榜系统每个系统存在存储和计算两个流程,原始数据的存储可以选择MYSQL进行存储,计算排行阶段选择了阿里云Redis进行排行计算。阿里云Redis具有主从、集群、读写分离、异地多活等形态的产品,我们可以随着业务的变化进行灵活的更改配置。整个排行版的数据流图如下。
热点读问题
对于热门排行的榜单可以选用阿里云Redis读写分离来解决单个榜单的读问题。
海量榜单问题
对于海量榜单的需求可以选用阿里云Redis的集群版本,阿里云Redis集群版本的容量可以达到TB级别,并且可以轻松扩容,可以按照自愿使用量进行弹性伸缩。
单元化问题
对于单元化的榜单,可以选用阿里云Redis的多中心方案,配置一个中心的写入,多个中心的读取,阿里云Redis提供的BLS服务可以轻松搭建两个中心的同步通道。
总结
本文主要对基于阿里云Redis的通用排行榜系统的构建进行了探讨,详细介绍了如何利用Redis的ZSET进行常用的数据排行,另外对通用排行榜系统的功能及数据流程进行了探讨,并介绍了不同场景下可以选用的阿里云Redis产品。
相关推荐
- Docker安装详细步骤及相关环境安装配置
-
最近自己在虚拟机上搭建一个docker,将项目运行在虚拟机中。需要提前准备的工具,FinallShell(远程链接工具),VM(虚拟机-配置网络)、CentOS7(Linux操作系统-在虚拟机上安装)...
- Linux下安装常用软件都有哪些?做了一个汇总列表,你看还缺啥?
-
1.安装列表MySQL5.7.11Java1.8ApacheMaven3.6+tomcat8.5gitRedisNginxpythondocker2.安装mysql1.拷贝mysql安装文件到...
- Nginx安装和使用指南详细讲解(nginx1.20安装)
-
Nginx安装和使用指南安装1.检查并安装所需的依赖软件1).gcc:nginx编译依赖gcc环境安装命令:yuminstallgcc-c++2).pcre:(PerlCompatibleRe...
- docker之安装部署Harbor(docker安装hacs)
-
在现代软件开发和部署环境中,Harbor作为一个企业级的容器镜像仓库,提供了高效、安全的镜像管理解决方案。通过Docker部署Harbor,可以轻松构建私有镜像仓库,满足企业对镜像存储、管理和安全性...
- 成功安装 Magento2.4.3最新版教程「技术干货」
-
外贸独立站设计公司xingbell.com经过多次的反复实验,最新版的magento2.4.3在oneinstack的环境下的详细安装教程如下:一.vps系统:LinuxCentOS7.7.19...
- 【Linux】——从0到1的学习,让你熟练掌握,带你玩转Linu
-
学习Linux并掌握Java环境配置及SpringBoot项目部署是一个系统化的过程,以下是从零开始的详细指南,帮助你逐步掌握这些技能。一、Linux基础入门1.安装Linux系统选择发行版:推荐...
- cent6.5安装gitlab-ce最新版本-11.8.2并配置邮件服务
-
cent6.5安装gitlab-ce最新版本-11.8.2并配置邮件服务(yum选择的,时间不同,版本不同)如果对运维课程感兴趣,可以在b站上搜索我的账号:运维实战课程,可以关注我,学习更多免费的运...
- 时隔三月,参加2020秋招散招,终拿字节跳动后端开发意向书.
-
3个月前头条正式批笔试4道编程题只AC了2道,然后被刷了做了200多道还是太菜了,本来对字节不抱太大希望,毕竟后台竞争太大,而且字节招客户端开发比较多。后来看到有散招免笔试,抱着试一试的心态投了,然而...
- Redisson:Java程序员手中的“魔法锁”
-
Redisson:Java程序员手中的“魔法锁”在这个万物互联的时代,分布式系统已经成为主流。然而,随着系统的扩展,共享资源的争夺成为了一个棘手的问题。就比如你想在淘宝“秒杀”一款商品,却发现抢的人太...
- 【线上故障复盘】RPC 线程池被打满,1024个线程居然不够用?
-
1.故障背景昨天晚上,我刚到家里打开公司群,就看见群里有人讨论:线上环境出现大量RPC请求报错,异常原因:被线程池拒绝。虽然异常量很大,但是异常服务非核心服务,属于系统旁路,服务于数据核对任务,即使...
- 小红书取消大小周,有人不高兴了!
-
小红书宣布五一节假日之后,取消大小周,恢复为正常的双休,乍一看工作时长变少,按道理来说大家应该都会很开心,毕竟上班时间缩短了,但是还是有一些小红书的朋友高兴不起来,心情很复杂。因为没有了大小周,以前...
- 延迟任务的多种实现方案(延迟机制)
-
场景订单超时自动取消:延迟任务典型的使用场景是订单超时自动取消。功能精确的时间控制:延时任务的时间控制要尽量准确。可靠性:延时任务的处理要是可靠的,确保所有任务最终都能被执行。这通常要求延时任务的方案...
- 百度java面试真题(java面试题下载)
-
1、SpingBoot也有定时任务?是什么注解?在SpringBoot中使用定时任务主要有两种不同的方式,一个就是使用Spring中的@Scheduled注解,另一个则是使用第三方框架Q...
- 回归基础:访问 Kubernetes Pod(concurrent.futures访问数据库)
-
Kubernetes是一头巨大的野兽。在它开始有用之前,您需要了解许多概念。在这里,学习几种访问集群外pod的方法。Kubernetes是一头巨大的野兽。在它开始有用之前,您需要了解许多不同的...
- Spring 缓存神器 @Cacheable:3 分钟学会优化高频数据访问
-
在互联网应用中,高频数据查询(如商品详情、用户信息)往往成为性能瓶颈。每次请求都触发数据库查询,不仅增加服务器压力,还会导致响应延迟。Spring框架提供的@Cacheable注解,就像给方法加了一...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- Docker安装详细步骤及相关环境安装配置
- Linux下安装常用软件都有哪些?做了一个汇总列表,你看还缺啥?
- Nginx安装和使用指南详细讲解(nginx1.20安装)
- docker之安装部署Harbor(docker安装hacs)
- 成功安装 Magento2.4.3最新版教程「技术干货」
- 【Linux】——从0到1的学习,让你熟练掌握,带你玩转Linu
- cent6.5安装gitlab-ce最新版本-11.8.2并配置邮件服务
- 时隔三月,参加2020秋招散招,终拿字节跳动后端开发意向书.
- Redisson:Java程序员手中的“魔法锁”
- 【线上故障复盘】RPC 线程池被打满,1024个线程居然不够用?
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)