千万级任务延迟队列的实现方案
mhr18 2024-11-27 12:09 22 浏览 0 评论
延迟任务在电商的业务下使用的场景还是非常多的，比如订单下单未支付的取消时间、定时确认收货以及促销活动提醒等，目前实现这块的方案也有好些。
1、基于纯内存的DelayQueue
2、基于中间件的消息队列延迟消息的方式，主流的消息队列如Rocketmq、Rabbitmq都这方面的方案
3、基于Redis作为存储的实现方式，而基于Redis作为存储又分为两派，一派以sorted set作为数据结构，另一派以List作为数据结构，很多大厂都是基于此方案。
4、基于Key-Value的RocksDB作为数据存储实现延迟任务队列。
本文主要是基于Redis为存储方式去实现千万级的任务延迟队列的方式，会从架构层面较为系统的去介绍，主要的实现思路来源于Rocketmq的延迟队列+死信队列的方式。
一、整体设计
从整体来看，主要分为四块：任务池、执行任务池、重试任务池以及死信任务池。
任务池：主要是存储还未即将进行执行的任务,这个主要的数据存储结构为SortSet，按照执行时间的绝对长短进行排序
执行任务池：存储的是接近要执行的任务，这个主要数据存储结构为List，采用LIst的FIFO的方式去消费执行。
重试任务池：存储的是处于重试次数范围内的任务
死信任务池：存储的是经过了重试最大次数后，依然没有办法执行成功的任务。
一个任务可能会经过从任务池-》执行任务池-》重试任务池-》死信任务池这几个阶段。
二、任务写入
当任务写入时，会产生一个JobId，随机分配一个Queue，这个Queue 主要是将任务进行打散，可以增加一些负载均衡的一些算法来决定是否那个Queue，这个jobid会由时间戳、延迟秒数以及随机数组成。
任务的Key :{queue}/{Jobid}
之后在根据延迟时间来决定是放到Ready pool还是放在Job Pool里面。
- delay = 0，表示不需要延时则直接写到 Ready Pool queue为list 数据结构
- delay = n(n > 0)，表示需要延时，将延时加上当前系统时间作为绝对时间戳写到SortSet
正是利用了Redis SortSet的排序特点，再通过其他线程轮询的方式将即将过期的任务从Job Pool 转移到Ready Pool中去。
三、任务消费
当业务从Job Pool 转移到Ready Pool中去之后，就可以通过消费Ready Pool的List 采用RPOP的方式进行任务消费，将从Pool池中取出任务，再将任务发送给消费者，同时进行重试次数-1，直到重试次数为零，即将任务转存至Retry Pool。
这里有两个点需要特别注意：
1、因为Redis List 通过RPOP进行弹出时，此时Pool将不在有该任务，因此需将任务转存至其他地方，等待业务执行完回调。
2、任务重试的策略需要进行设计，否则会出现一个任务阻塞一个队列的这种情况，要尽可能避免这种情况的出现，如未进行考虑，将会出现极端情况，整个Ready Pool 消费直接崩溃。
四、任务消费如何进行伸缩
当任务出现较多时会出现List 较长，从而导致执行效率退化，从而导致整体消费吞吐变低，在这里可以参考Rocketmq的消费模型，动态的去调整Queue的方式，去提升消费端的速率，从而增大消费侧的吞吐。
- 上一篇：京东二面，Redis为什么这么快?
- 下一篇：一种异步延迟队列的实现方式
相关推荐
- Spring Boot 分布式事务实现简单得超乎想象
-
环境：SpringBoot2.7.18+Atomikos4.x+MySQL5.71.简介关于什么是分布式事务，本文不做介绍。有需要了解的自行查找相关的资料。本篇文章将基于SpringBoot...
- Qt编写可视化大屏电子看板系统15-曲线面积图
-
##一、前言曲线面积图其实就是在曲线图上增加了颜色填充，单纯的曲线可能就只有线条以及数据点，面积图则需要从坐标轴的左下角和右下角联合曲线形成完整的封闭区域路径，然后对这个路径进行颜色填充，为了更美观...
- Doris大数据AI可视化管理工具SelectDB Studio重磅发布!
-
一、初识SelectDBStudioSelectDBStudio是专为ApacheDoris湖仓一体典型场景实战及其兼容数据库量身打造的GUI工具，简化数据开发与管理。二、Select...
- RAD Studio 、Delphi或C++Builder设计代码编译上线缩短开发时间
-
#春日生活打卡季#本月，Embarcadero宣布RADStudio12.3Athens以及Delphi12.3和C++Builder12.3，提供下载。RADStudio12.3A...
- Mybatis Plus框架学习指南-第三节内容
-
自动填充字段基本概念MyBatis-Plus提供了一个便捷的自动填充功能，用于在插入或更新数据时自动填充某些字段，如创建时间、更新时间等。原理自动填充功能通过实现com.baomidou.myba...
- 「数据库」Sysbench 数据库压力测试工具
-
sysbench是一个开源的、模块化的、跨平台的多线程性能测试工具，可以用来进行CPU、内存、磁盘I/O、线程、数据库的性能测试。目前支持的数据库有MySQL、Oracle和PostgreSQL。以...
- 如何选择适合公司的ERP（选erp系统的经验之谈）
-
很多中小公司想搞ERP，但不得要领。上ERP的目的都是歪的，如提高效率，减少人员，堵住财务漏洞等等。真正用ERP的目的是借机提升企业管理能力，找出管理上的问题并解决，使企业管理更规范以及标准化。上ER...
- Manus放开注册，但Flowith才是Agent领域真正的yyds
-
大家好，我是运营黑客。前天，AIAgent领域的当红炸子鸡—Manus宣布全面放开注册，终于，不需要邀请码就能体验了。于是，赶紧找了个小号去确认一下。然后，额……就被墙在了外面。官方解释：中文版...
- 歌浓酒庄总酿酒师:我们有最好的葡萄园和最棒的酿酒师
-
中新网1月23日电1月18日，张裕董事长周洪江及总经理孙健一行在澳大利亚阿德莱德，完成了歌浓酒庄股权交割签约仪式，这也意味着张裕全球布局基本成型。歌浓：澳大利亚年度最佳酒庄据悉，此次张裕收购的...
- 软件测试进阶之自动化测试——python+appium实例
-
扼要：1、了解python+appium进行APP的自动化测试实例；2、能根据实例进行实训操作；本课程主要讲述用python+appium对APP进行UI自动化测试的例子。appium支持Androi...
- 为什么说Python是最伟大的语言?看图就知道了
-
来源：麦叔编程作者：麦叔测试一下你的分析能力，直接上图，自己判断一下为什么Python是最好的语言？1.有图有真相Java之父-JamesGoshlingC++之父-BjarneStrou...
- 如何在Eclipse中配置Python开发环境?
-
Eclipse是著名的跨平台集成开发环境（IDE），最初主要用来Java语言开发。但是我们通过安装不同的插件Eclipse可以支持不同的计算机语言。比如说，我们可以通过安装PyDev插件，使Eclip...
- 联合国岗位上新啦（联合国的岗位）
-
联合国人权事务高级专员办事处PostingTitleIntern-HumanRightsDutyStationBANGKOKDeadlineOct7,2025CategoryandL...
- 一周安全漫谈丨工信部:拟定超1亿条一般数据泄露属后果严重情节
-
工信部：拟定超1亿条一般数据泄露属后果严重情节11月23日，工信部官网公布《工业和信息化领域数据安全行政处罚裁量指引（试行）（征求意见稿）》。《裁量指引》征求意见稿明确了行政处罚由违法行为发生地管辖、...
- oracle列转行以及C#执行语句时报错问题
-
oracle列转行的关键字：UNPIVOT，经常查到的怎么样转一列，多列怎么转呢，直接上代码（sshwomeyourcode）：SELECTsee_no,diag_no,diag_code,...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (59)
- oracle 空为0 (51)
- oracle主从同步 (56)
- oracle 乐观锁 (53)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)