Docker Compose 与 Nestjs 构建基于 Dapr 的 Redis 发布/订阅分布式应用
mhr18 2024-11-14 16:23 20 浏览 0 评论
Dapr(分布式应用程序运行时)介绍
Dapr 是一个可移植的、事件驱动的运行时,它使任何开发人员能够轻松构建出弹性的、无状态和有状态的应用程序,并可运行在云平台或边缘计算中,它同时也支持多种编程语言和开发框架。
Dapr 官网:https://dapr.io/
实战 Dapr 的 Redis 发布/订阅应用
1. 创建项目
首先,我们将创建我们的项目根文件夹来托管我们将在后续步骤中创建的所有服务。
mkdir dapr-nestjs-redis-pub-sub
2. 创建 Dapr Placement 服务
由于我们将创建多个服务,我们将使用 docker-compose 来运行这些服务。
让我们在项目的根文件夹中创建 docker-compose.yml 文件
cd dapr-nestjs-redis-pub-sub
touch docker-compose.yml
version: "3.5"
services:
dapr-placement:
image: "daprio/dapr"
command: ["./placement", "-port", "50006"]
Dapr placement 服务将负责管理 Dapr actors(我们的服务)之间的所有通信。
简单来说,它负责将所有通信路由到假设接收通信的相应 actor。它充当 message broker(消息代理)。
3. 创建 Redis Publish 服务
让我们继续通过添加我们的 Redis 服务来修改我们的 docker-compose.yml 文件。
将以下代码添加到 docker-compose.yml 的服务部分:
redis-publisher:
image: redis
restart: always
depends_on:
- dapr-placement
4. 创建 Dapr Pub-Sub 组件
创建一个 dapr/components 文件夹。然后创建组件文件 redis-pubsub.yaml。
mkdir -p dapr/components
cd dapr/components
touch redis-pubsub.yaml
然后打开文件并插入我们的 Dapr pub/sub 组件的详细信息
apiVersion: dapr.io/v1alpha1
kind: Component
metadata:
name: redis-pubsub
namespace: default
spec:
type: pubsub.redis
version: v1
metadata:
- name: redisHost
value: redis-publisher:6379
- name: redisPassword
value: ""
redisHost 是我们的 Redis 服务 redis-pub 的名称,默认 Redis 端口为 6379。
5. 创建 Redis Dapr Sidecar
正如前面部分反复提到的,服务直接与 Dapr 通信,而不是直接与其他服务通信。Dapr 充当所有服务的中间人。
服务通过它们自己的 Dapr sidecar 直接与 Dapr 通信,Dapr sidecar 将通信传递给 Dapr placement,该 placement 再次将其传递给假设接收通信的服务的 Dapr sidecar。
将 redis-dapr-sidecar 服务添加到我们的 docker-compose.yml
redis-dapr-sidecar:
image: "daprio/daprd:edge"
command: [
"./daprd",
"-app-id",
"redis-publisher",
"-app-port",
"6379",
"-dapr-http-port",
"5000",
"-components-path",
"/components",
"-placement-host-address",
"dapr-placement:50006"
]
volumes:
- "./dapr/components/:/components"
depends_on:
- redis-publisher
network_mode: "service:redis-publisher"
在这里,我们使用 app-id 将 Dapr sidecar 分配给 redis-publisher,同时我们使用 redis 端口 6379。
我们还必须将 dapr/components(redis-pubsub.yaml) 文件夹挂载到 docker 容器中。
不要忘记声明 dapr-http-port。这是我们的 Dapr sidecar 的 api,允许我们调用各种 HTTP 方法。
定义您的 dapr-http-port 很重要,因为您将在此处调用各种 HTTP 调用/方法/请求。
最后,注意将 redis-dapr-sidecar 附加到 redis-publisher 网络命名空间。
6. 创建 NestJS Server
我们将使用 NestJS 作为我们的 node server 作为我们的 Redis subscriber(订阅者)。
进入到项目文件夹
cd dapr-nestjs-redis-pub-sub
然后执行以下命令设置一个 NestJS node server:
npm i -g @nestjs/cli
nest new nest-subscriber
对于这个项目,我们将选择 yarn 作为包管理器。
接下来,我们将设置一个 post API 端点。
Dapr 将调用这个端点,一旦它收到我们的 Redis 服务发布,它就被调用。
转到 nest-subscriber/src/app.controller.ts
将此文件中的代码替换为以下内容:
import { Controller, Post, Body } from '@nestjs/common';
import { AppService } from './app.service';
@Controller()
export class AppController {
constructor(private readonly appService: AppService) {}
@Post('/redis-publisher')
async postRedisPub(@Body() reqBody) {
console.log(`Redis 发布了 ${JSON.stringify(reqBody)} `);
return `NestJS 订阅者收到的 ${reqBody} 发布`;
}
}
7. 为 NestJS 订阅服务器创建 Dockerfile
我们将 NestJS 服务器作为 Docker 容器运行。需要创建一个 Dockerfile。
cd nest-subscriber
touch Dockerfile
然后打开文件并粘贴以下代码:
FROM node:16.13.0-alpine
WORKDIR "/app"
COPY ./nest-subscriber/package.json ./
RUN yarn install
COPY ./nest-subscriber .
RUN yarn run build
EXPOSE 3000
CMD ["yarn","start:prod"]
构建镜像:
docker build -f ./nest-subscriber/Dockerfile -t nest-subscriber:latest . --no-cache
8. 将 NestJS 订阅服务添加到 docker-compose 文件
在创建了我们的 NestJS 服务器和 Dockerfile 之后,我们创建了 nest-subscriber docker 服务。
将以下内容添加到 docker-compose.yml:
nest-subscriber:
image: "nest-subscriber:latest"
depends_on:
- redis-publisher
- dapr-placement
restart: always
9. 创建 Dapr 订阅
我们将为我们的 pub/sub 订阅定义配置。
创建一个 dapr/subscriptions 文件夹。然后创建组件文件 redis-subscription.yaml
mkdir -p dapr/subscriptions
cd dapr/subscriptions
touch redis-subscription.yaml
然后打开文件并插入我们的 Dapr 订阅组件的详细信息
apiVersion: dapr.io/v1alpha1
kind: Subscription
metadata:
name: nest-redis-sub
spec:
topic: nest-redis-pub-topic
route: /redis-publisher
pubsubname: redis-pubsub
scopes:
- nest-subscriber
路由是发布 topic 时 Dapr 将调用的 API
scope 是订阅该 topic 的服务。
pubsubname 是 redis-pubsub,它等于我们的 redis-pubsub.yaml 文件中定义的元数据名称。
在这个项目中,如果发布了一个 topic nest-redis-pub-topic,Dapr 将在我们的 nest-subscriber 服务中调用 API /redis-publisher。
10. 创建 NestJS 服务器 Dapr Sidecar
我们需要为我们的 NestJS 服务创建一个 sidecar,就像 redis-publisher 服务一样。
将 nest-subscriber-dapr-sidecar 服务添加到我们的 docker-compose.yml
nest-subscriber-dapr-sidecar:
image: "daprio/daprd:edge"
command: [
"./daprd",
"-app-id",
"nest-subscriber",
"-app-port",
"3000",
"-components-path",
"/components",
"-placement-host-address",
"dapr-placement:50006",
]
volumes:
- "./dapr/components/:/components"
depends_on:
- nest-subscriber
network_mode: "service:nest-subscriber"
11. 测试它是否有效
通常 Dapr Docker 容器会在 Docker 网络中进行通信。
但是为了我们做测试,我们将打开映射暴露端口 5000 到我们的本地机器 5001。
redis-publisher:
image: redis
depends_on:
- dapr-placement
restart: always
ports:
- 5001:5000
然后在您的终端中执行以下命令:
curl --location --request POST 'http://localhost:5001/v1.0/publish/redis-pubsub/nest-redis-pub-topic' \
--header 'Content-Type: application/json' \
--data-raw '{
"hello": "world"
}'
Dapr 的优点之一是它遵循特定的 URL 格式。这里我们只使用 Dapr sidecar HTTP 端口(5001),然后是版本号(v1.0),然后是 action(publish)。然后是我们 redis-pubsub.yaml 配置文件中定义的 pubsubname(redis-pubsub)和 topic(nest-redis-pub-topic)。
一旦发出 HTTP post 请求。我们的 NestJS 服务器应该在 /redis-publisher 收到一个 post 请求,这将导致以下日志:
我们可以看到它正在通过 Dapr 接收 Redis 发布。但是我们的 NestJS 服务器无法正确处理消息。
只有 {} 被发布,而不是我们发布的消息。
我们将在下一步中解决这个问题。
注意:我们通过 redis-dapr-sidecar 的 dapr-http-port 调用发布服务。通常会有一个单独的 Docker 服务(例如另一个服务器),它有自己的 Dapr sidecar,它将调用 redis 发布服务。 在这种情况下,我们将使用该 Docker 服务的 Dapr sidecar http-port。该请求将由 sidecar 发送到 Dapr placement 服务,然后该服务将确定将请求转发到的正确 Dapr sidecar。
12. 允许 NestJS 解析 application/cloudevents+json
我们的 nest-subscriber-dapr-sidecar 向我们的 nest-subscriber 服务器发出的 post 请求的 Content-Type 将是 application/cloudevents+json 而不是 application/json
目前我们的 NestJS 服务器无法解析 application/cloudevents+json。
为了解决这个问题,我们首先需要安装 body-parser:
cd nest-subscriber
yarn add body-parser
接下来我们需要修改我们的 NestJS 服务器 main.ts:
import { NestFactory } from '@nestjs/core';
import { AppModule } from './app.module';
import * as bodyParser from 'body-parser';
async function bootstrap() {
const app = await NestFactory.create(AppModule);
app.use(bodyParser.json({ type: 'application/cloudevents+json' }));
app.use(bodyParser.json());
await app.listen(3000);
}
bootstrap();
当我们再次发送 post 请求时,我们的 NestJS 服务器将能够处理请求正文并显示以下日志:
好了,我们现在有一个基于 Dapr 工作的 Redis Pub/Sub 分布式应用。
13. 完整 docker-compose.yaml
version: "3.5"
services:
dapr-placement:
image: "daprio/dapr"
command: ["./placement", "-port", "50006"]
redis-publisher:
image: redis
depends_on:
- dapr-placement
restart: always
ports:
- 5001:5000
redis-dapr-sidecar:
image: "daprio/daprd:edge"
command: [
"./daprd",
"-app-id",
"redis-publisher",
"-app-port",
"6379",
"-dapr-http-port",
"5000",
"-components-path",
"/components",
"-placement-host-address",
"dapr-placement:50006"
]
volumes:
- "./dapr/components/:/components"
depends_on:
- redis-publisher
network_mode: "service:redis-publisher"
nest-subscriber:
image: "nest-subscriber:latest"
depends_on:
- redis-publisher
- dapr-placement
restart: always
nest-subscriber-dapr-sidecar:
image: "daprio/daprd:edge"
command: [
"./daprd",
"-app-id",
"nest-subscriber",
"-app-port",
"3000",
"-components-path",
"/components",
"-placement-host-address",
"dapr-placement:50006",
]
volumes:
- "./dapr/components/:/components"
depends_on:
- nest-subscriber
network_mode: "service:nest-subscriber"
14. 源码
https://github.com/Hacker-Linner/dapr-nestjs-redis-pub-sub.git
更多
相关推荐
- 一文读懂Prometheus架构监控(prometheus监控哪些指标)
-
介绍Prometheus是一个系统监控和警报工具包。它是用Go编写的,由Soundcloud构建,并于2016年作为继Kubernetes之后的第二个托管项目加入云原生计算基金会(C...
- Spring Boot 3.x 新特性详解:从基础到高级实战
-
1.SpringBoot3.x简介与核心特性1.1SpringBoot3.x新特性概览SpringBoot3.x是建立在SpringFramework6.0基础上的重大版...
- 「技术分享」猪八戒基于Quartz分布式调度平台实践
-
点击原文:【技术分享】猪八戒基于Quartz分布式调度平台实践点击关注“八戒技术团队”,阅读更多技术干货1.背景介绍1.1业务场景调度任务是我们日常开发中非常经典的一个场景,我们时常会需要用到一些不...
- 14. 常用框架与工具(使用的框架)
-
本章深入解析Go生态中的核心开发框架与工具链,结合性能调优与工程化实践,提供高效开发方案。14.1Web框架(Gin,Echo)14.1.1Gin高性能实践//中间件链优化router:=...
- SpringBoot整合MyBatis-Plus:从入门到精通
-
一、MyBatis-Plus基础介绍1.1MyBatis-Plus核心概念MyBatis-Plus(简称MP)是一个MyBatis的增强工具,在MyBatis的基础上只做增强不做改变,为简化开发、提...
- Seata源码—5.全局事务的创建与返回处理
-
大纲1.Seata开启分布式事务的流程总结2.Seata生成全局事务ID的雪花算法源码3.生成xid以及对全局事务会话进行持久化的源码4.全局事务会话数据持久化的实现源码5.SeataServer创...
- Java开发200+个学习知识路线-史上最全(框架篇)
-
1.Spring框架深入SpringIOC容器:BeanFactory与ApplicationContextBean生命周期:实例化、属性填充、初始化、销毁依赖注入方式:构造器注入、Setter注...
- OpenResty 入门指南:从基础到动态路由实战
-
一、引言1.1OpenResty简介OpenResty是一款基于Nginx的高性能Web平台,通过集成Lua脚本和丰富的模块,将Nginx从静态反向代理转变为可动态编程的应用平台...
- 你还在为 Spring Boot3 分布式锁实现发愁?一文教你轻松搞定!
-
作为互联网大厂后端开发人员,在项目开发过程中,你有没有遇到过这样的问题:多个服务实例同时访问共享资源,导致数据不一致、业务逻辑混乱?没错,这就是分布式环境下常见的并发问题,而分布式锁就是解决这类问题的...
- 近2万字详解JAVA NIO2文件操作,过瘾
-
原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处。从classpath中读取过文件的人,都知道需要写一些读取流的方法,很是繁琐。最近使用IDEA在打出.这个符号的时候,一行代...
- 学习MVC之租房网站(十二)-缓存和静态页面
-
在上一篇<学习MVC之租房网站(十一)-定时任务和云存储>学习了Quartz的使用、发邮件,并将通过UEditor上传的图片保存到云存储。在项目的最后,再学习优化网站性能的一些技术:缓存和...
- Linux系统下运行c++程序(linux怎么运行c++文件)
-
引言为什么要在Linux下写程序?需要更多关于Linux下c++开发的资料请后台私信【架构】获取分享资料包括:C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,fastdf...
- 2022正确的java学习顺序(文末送java福利)
-
对于刚学习java的人来说,可能最大的问题是不知道学习方向,每天学了什么第二天就忘了,而课堂的讲解也是很片面的。今天我结合我的学习路线为大家讲解下最基础的学习路线,真心希望能帮到迷茫的小伙伴。(有很多...
- 一个 3 年 Java 程序员 5 家大厂的面试总结(已拿Offer)
-
前言15年毕业到现在也近三年了,最近面试了阿里集团(菜鸟网络,蚂蚁金服),网易,滴滴,点我达,最终收到点我达,网易offer,蚂蚁金服二面挂掉,菜鸟网络一个月了还在流程中...最终有幸去了网易。但是要...
- 多商户商城系统开发全流程解析(多商户商城源码免费下载)
-
在数字化商业浪潮中,多商户商城系统成为众多企业拓展电商业务的关键选择。这类系统允许众多商家在同一平台销售商品,不仅丰富了商品种类,还为消费者带来更多样的购物体验。不过,开发一个多商户商城系统是个复杂的...
你 发表评论:
欢迎- 一周热门
-
-
Redis客户端 Jedis 与 Lettuce
-
高并发架构系列:Redis并发竞争key的解决方案详解
-
redis如何防止并发(redis如何防止高并发)
-
开源推荐:如何实现的一个高性能 Redis 服务器
-
redis安装与调优部署文档(WinServer)
-
Redis 入门 - 安装最全讲解(Windows、Linux、Docker)
-
一文带你了解 Redis 的发布与订阅的底层原理
-
Redis如何应对并发访问(redis控制并发量)
-
oracle数据库查询Sql语句是否使用索引及常见的索引失效的情况
-
Java SE Development Kit 8u441下载地址【windows版本】
-
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)