基于Redis的开源NodeJS高级消息队列——BullMQ
mhr18 2024-12-01 08:57 14 浏览 0 评论
介绍
BullMQ是一个NodeJS库,它实现了基于Redis的快速而强大的队列系统。该库的设计使其可以实现以下目标:队列语义恰好是一次,即尝试一次准确地传递每条消息,但在最坏的情况下它将至少传递一次*。易于水平缩放。添加更多workers以并行处理作业。一致性、高性能。通过结合高效的.lua脚本和流水线,尝试从Redis获得最大的吞吐量。
Github
https://github.com/taskforcesh/bullmq
特点
如果是Message Queue的新手,你可能想知道为什么需要它们。队列可以用一种优雅的方式解决许多不同的问题,从平滑处理高峰到在微服务之间创建健壮的通信通道,或将繁重的工作从一台服务器转移到许多较小的worker,等等。
- 免轮询设计,CPU使用率最低
- 基于Redis的分布式作业
- LIFO和FIFO作业
- 优先事项
- 延迟工作
- 根据cron规范计划和重复的作业
- 重试失败的作业
- 每个worker的并发设置
- 线程化(沙盒)处理功能
- 从进程崩溃中自动恢复
BullMQ基于4个类,可以一起用来解决许多不同的问题。这些类是Queue,Worker,QueueScheduler和QueueEvents。首先应该了解的第一类是Queue类。此类表示队列,可用于将作业添加到队列以及其他一些基本操作,例如暂停,清除或从队列中获取数据。BullMQ中的作业基本上是用户创建的数据结构,可以存储在队列中。作业由工人处理。Worker是需要注意的第二类。工作者是能够处理作业的实例。可以有许多工作程序,可以在同一NodeJS进程中运行,也可以在不同的进程中以及在不同的计算机中运行。它们都会从队列中消费作业,并将作业标记为已完成或失败。
快速开始
BullMQ用typescript编写,尽管可以在普通javascript中使用,但有示例都将使用typescript编写。
- 安装
yarn add bullmq
- 引入
import { Queue } from 'bullmq'; const myQueue = new Queue('foo'); async function addJobs(){ await myQueue.add('myJobName', { foo: 'bar' }); await myQueue.add('myJobName', { qux: 'baz' }); } addJobs();
当然你需要在本地计算机上运行Redis服务才能成功运行示例。
作业被添加到队列中并且可以随时处理,至少有一个运行工作器的Nodejs进程:
import { Worker } from 'bullmq' const worker = new Worker(queueName, async job => { // Will print { foo: 'bar'} for the first job // and { qux: 'baz' } for the second. console.log(job.data): });
可以拥有许多所需的工作流程,BullMQ将以循环方式在workers之间分配工作。
可以以通过将侦听器附加到工作程序来侦听已完成(或失败)的工作
worker.on('completed', (job) => { console.log(`${job.id} has completed!`); }); worker.on('failed', (job, err) => { console.log(`${job.id} has failed with ${err.message}`); });
有时需要在给定位置监听所有worker事件,因此,需要使用特殊的class QueueEvents:
import { QueueEvents } from 'bullmq' const queueEvents = new QueueEvents(); queueEvents.on('completed', (jobId) => { console.log(`${jobId} has completed!`); }); queueEvents.on('failed', (jobId, err) => { console.log(`${jobId} has failed with ${err.message}`); });
全局事件侦听器仅返回作业ID,而不返回作业实例。这是出于性能原因,如果需要完整的作业,则可以始终使用Queue ## getJob方法。
更多高级或者深入的用法可参考官方文档!
总结
BullMQ是一个基于Redis的分布式队列,通过队列能够解决你很多问题,就目前而言,其潜力很大,如果你正有这方面的需求,不妨尝试一下它!
相关推荐
- 使用 Docker 部署 Java 项目(通俗易懂)
-
前言:搜索镜像的网站(推荐):DockerDocs1、下载与配置Docker1.1docker下载(这里使用的是Ubuntu,Centos命令可能有不同)以下命令,默认不是root用户操作,...
- Spring Boot 3.3.5 + CRaC:从冷启动到秒级响应的架构实践与踩坑实录
-
去年,我们团队负责的电商订单系统因扩容需求需在10分钟内启动200个Pod实例。当运维组按下扩容按钮时,传统SpringBoot应用的冷启动耗时(平均8.7秒)直接导致流量洪峰期出现30%的请求超时...
- 《github精选系列》——SpringBoot 全家桶
-
1简单总结1SpringBoot全家桶简介2项目简介3子项目列表4环境5运行6后续计划7问题反馈gitee地址:https://gitee.com/yidao620/springbo...
- Nacos简介—1.Nacos使用简介
-
大纲1.Nacos的在服务注册中心+配置中心中的应用2.Nacos2.x最新版本下载与目录结构3.Nacos2.x的数据库存储与日志存储4.Nacos2.x服务端的startup.sh启动脚...
- spring-ai ollama小试牛刀
-
序本文主要展示下spring-aiollama的使用示例pom.xml<dependency><groupId>org.springframework.ai<...
- SpringCloud系列——10Spring Cloud Gateway网关
-
学习目标Gateway是什么?它有什么作用?Gateway中的断言使用Gateway中的过滤器使用Gateway中的路由使用第1章网关1.1网关的概念简单来说,网关就是一个网络连接到另外一个网络的...
- Spring Boot 自动装配原理剖析
-
前言在这瞬息万变的技术领域,比了解技术的使用方法更重要的是了解其原理及应用背景。以往我们使用SpringMVC来构建一个项目需要很多基础操作:添加很多jar,配置web.xml,配置Spr...
- 疯了!Spring 再官宣惊天大漏洞
-
Spring官宣高危漏洞大家好,我是栈长。前几天爆出来的Spring漏洞,刚修复完又来?今天愚人节来了,这是和大家开玩笑吗?不是的,我也是猝不及防!这个玩笑也开的太大了!!你之前看到的这个漏洞已...
- 「架构师必备」基于SpringCloud的SaaS型微服务脚手架
-
简介基于SpringCloud(Hoxton.SR1)+SpringBoot(2.2.4.RELEASE)的SaaS型微服务脚手架,具备用户管理、资源权限管理、网关统一鉴权、Xss防跨站攻击、...
- SpringCloud分布式框架&分布式事务&分布式锁
-
总结本文承接上一篇SpringCloud分布式框架实践之后,进一步实践分布式事务与分布式锁,其中分布式事务主要是基于Seata的AT模式进行强一致性,基于RocketMQ事务消息进行最终一致性,分布式...
- SpringBoot全家桶:23篇博客加23个可运行项目让你对它了如指掌
-
SpringBoot现在已经成为Java开发领域的一颗璀璨明珠,它本身是包容万象的,可以跟各种技术集成。本项目对目前Web开发中常用的各个技术,通过和SpringBoot的集成,并且对各种技术通...
- 开发好物推荐12之分布式锁redisson-sb
-
前言springboot开发现在基本都是分布式环境,分布式环境下分布式锁的使用必不可少,主流分布式锁主要包括数据库锁,redis锁,还有zookepper实现的分布式锁,其中最实用的还是Redis分...
- 拥抱Kubernetes,再见了Spring Cloud
-
相信很多开发者在熟悉微服务工作后,才发现:以为用SpringCloud已经成功打造了微服务架构帝国,殊不知引入了k8s后,却和CloudNative的生态发展脱轨。从2013年的...
- Zabbix/J监控框架和Spring框架的整合方法
-
Zabbix/J是一个Java版本的系统监控框架,它可以完美地兼容于Zabbix监控系统,使得开发、运维等技术人员能够对整个业务系统的基础设施、应用软件/中间件和业务逻辑进行全方位的分层监控。Spri...
- SpringBoot+JWT+Shiro+Mybatis实现Restful快速开发后端脚手架
-
作者:lywJee来源:cnblogs.com/lywJ/p/11252064.html一、背景前后端分离已经成为互联网项目开发标准,它会为以后的大型分布式架构打下基础。SpringBoot使编码配置...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)