Java+Redis 通过Lua 完成库存扣减,创建消息队列,异步处理消息
mhr18 2024-11-05 10:25 25 浏览 0 评论
需要完成功能
借助redis Stream 数据结构实现消息队列,异步完成订单创建,其中涉及到了缓存(击穿,穿透,雪崩),锁(Redisson),并发处理,异步处理,Lua脚本
1、读取库存数据 【Lua】
2、判断库存 【Lua】
3、扣减库存 【Lua】
4、创建队列和组 【Java】
5、发送队列消息 【Lua】
6、消息读取并处理 【Java】
在完成功能之前 ,需要了解一下redis 中有关stream 数据结构相关的命令
XACK:确认消息已经处理,redis 会在PEL(pending entries List )中移除一个或多个消息。一般情况下 一个消息被 XREADGROUP 或 XCLAIM之后会被写入PEL。
XADD: 把消息(Entry ,key-value)追加到队列,默认如果队列不存在会创建,除非使用 NOMKSTREAM ,之后 可以通过XREAD ,XREANGE 等命令读取或通过XDEL,XTRIM移除消息
XCLAIM,XAUTOCLAIM 改变PEL 中的消息的所有者
XDEL:在队列中移除一个或多个消息(entry)
XGROUP CREATE :在指定的队列中创建一个消费者组,队列key有且仅能有一个,否则重复会提示:-BUSYGROUP 不存在会提示:ERR no such key ,可以通过选项 MKSTREAM 在不存在时创建
XGROUP CREATECONSUMER:在一个给定的队列和消费者组中创建一个消费者,不能重复。此外在任何使用到消费者的命令中,如果不存在则自动创建。如:XREADGROUP
XGROUP DELCONSUMER:在一个给定的队列和消费者组中移除一个消费者 在执行此命令之前 相关的PEL 要先执行 XCLAIM 或 XACK进行处理,否则将变得 unclaimable.
XGROUP DESTROY:在给定的队列中删除一个消费者组,相关的consumers 和 PEL 都会被 删除,所以执行之前要慎重
XGROUP SETID :重新设置指定的消费者组的最后一个处理的消息的ID,通常这个ID初始值 是XGROUP CREATE时指定的,每次执行XREDGROUP 也会修改(更新)这个ID,例如:想让组内的消费者重新处理队列中的所有的entrys时,可以 XGROUP SETID streamkey groupkey 0,在redis 7.0增加了参数 ENTRIESREAD n ,n 为已读数量 ,此时,xinfo groups streamKey 可以看到组信息如下:
127.0.0.1:6388> xread count 20 streams s1 0
1) 1) "s1"
2) 1) 1) "1678852071712-0"
2) 1) "key1"
2) "vlaue1"
2) 1) "1678852073882-0"
2) 1) "key1"
2) "vlaue1"
3) 1) "1678852080406-0"
2) 1) "key2"
2) "vlaue2"
4) 1) "1678852588261-0"
2) 1) "key-1"
2) "vlaue2"
5) 1) "1678852591957-0"
2) 1) "key-2"
2) "vlaue2"
6) 1) "1678852595467-0"
2) 1) "key-3"
2) "vlaue2"
7) 1) "1678852599576-0"
2) 1) "key-4"
2) "vlaue2"
8) 1) "1678852616566-0"
2) 1) "key-4"
2) "vlaue2"
9) 1) "1678852946989-0"
2) 1) "key-5"
2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852080406-0"
9) "entries-read"
10) (integer) 9
11) "lag"
12) (integer) 0
127.0.0.1:6388> xreadgroup group g1 lihui count 1 streams s1 >
1) 1) "s1"
2) 1) 1) "1678852588261-0"
2) 1) "key-1"
2) "vlaue2"
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852588261-0"
9) "entries-read"
10) (integer) 10
11) "lag"
12) (integer) -1
127.0.0.1:6388> xlen s1
(integer) 9
127.0.0.1:6388> xgroup setid s1 g1 1678852073882-0 ENTRIESREAD 2
OK
127.0.0.1:6388> xinfo groups s1
1) 1) "name"
2) "g1"
3) "consumers"
4) (integer) 1
5) "pending"
6) (integer) 5
7) "last-delivered-id"
8) "1678852073882-0"
9) "entries-read"
10) (integer) 2
11) "lag"
12) (integer) 7
XINFO [SRTREAM,GROUPS,CONSUMERS] :获取队列,组,消费者的信息
XLEN:返回 stream中entrys的数量
XPENDING :查询通过消费者组读取但未被确认的entrys
XRANGE :返回队列中的某个区间内的entrys
XREVRANGE: 顺序说XRANGE相反的读取队列中的entry
XREAD:从队列 内读取一个或多个entry ,支持block
XREADGROUP:在XREAD的基础上在队列与消费者之间增加了组的概念
XSETID:是一个redis 内部命令,用于记录master 与replicate之间的数据 同步的最后一个ID 的记录
好了,下面是是代码
Lua 脚本 完成 相关功能
--[[
判断优惠券是否充足 优惠券 id ARGV[2] ,key KEYS[1]
判断当前用户是否已经下单 用户id ARGV[1]
如果库存充足,且用户没有下单 则 1、扣库存 2、保存用户下单信息 订单key KEYS[2] 订单ID ARGV[3]
stream 队列 key KEYS[3]
consumer group key KEYS[4]
利用redis 中set 数据 类型的不重复性,进行重复下单信息的记录
--]]
local sec_kc=redis.call('get',KEYS[1])
--if(not sec_kc) then
-- redis.call('set',KEYS[1],2000)
-- sec_kc=2000
--end
if(not sec_kc or sec_kc=='{}') then
--库存 不足
return 3
end
if( tonumber(sec_kc)<=0) then
--库存 不足
return 1
end
--完成一人一单重复检测
if(redis.call('SISMEMBER',KEYS[2],ARGV[1])==1) then
--订单重复
return 2
end
--扣减库存
redis.call('incrby',KEYS[1],-1)
-- 记录订单与用户之间关系 set 数据
redis.call('sadd',KEYS[2],ARGV[1])
--获取stream队列中entry数量
--[=[
local streamcount=redis.call('xlen',KEYS[3])
--此功能转到java 中完成 CreateStreamAndGroup
if(streamcount==0) then--没有stream 需要创建
-- XGROUP CREATE stream.order group1 0 mkstream
redis.call('XGROUP','CREATE',KEYS[3],KEYS[4],'0','mkstream')
end
--]=]
--判断队列是否存在
local streamExists=redis.call('exists',KEYS[3])
if(streamExists==0) then
return 4--队列不存在
end
-- 创建消息entry
--XADD S1 * KEY12 VALUE12
redis.call('XADD',KEYS[3],'*','userId',ARGV[1],'voucherId',ARGV[2],'id',ARGV[3])--key 的取值与对象 VoucherOrder 中变量属性对应,分别是,userId,voucherId,id(订单id)
--满足下单条件
return 0
因为在redis 的stream 命令中 没有判断 consumer group 是否存在,所以需要变通的方法,解决这个问题,因为如果组不存的情况下,进行xadd 会报错。
创建队列和消费者组
/**
* 查询队列信息,如果不存在会出现异常,在异常中创建队列
* @param streamKey
* @param groupKey
*/
private void CreateStreamAndGroup(String streamKey,String groupKey)
{
try {
//默认队列和组不存 创建队列
stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "创建成功。");
}
catch ( Exception ex)
{
String errx = ex.getMessage().toString();
if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
{
//System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
}
else
{
log.debug(ex.getMessage());
}
}
}
判断队列是否存在
/**
* 判断consumer group 是否存在,如果队列不存在直接返回 false,
* 如果队列存在,不论组是否存,都直接创建。
*/
private boolean ConsumerGroupExists(String streamKey,String groupKey)
{
boolean isok=false;
try {
//默认队列和组不存 创建队列
Collection<String> streamCollect=new ArrayList<>();
streamCollect.add(streamKey);
Long c_stream = stringRedisTemplate.countExistingKeys(streamCollect);
if(c_stream==0)
{
isok= false;//队列不存在
return isok;
}
//队列存在 ,那么直接创建消费者组,
stringRedisTemplate.opsForStream().createGroup(streamKey, ReadOffset.from("0"), groupKey);
System.out.println(streamKey + "队列" + streamKey + "存在,组" + groupKey + "创建成功。");
isok=true;//组创建成功
}
catch ( Exception ex)
{
String errx = ex.getMessage().toString();
if(errx.indexOf("BUSYGROUP Consumer Group name already exists")>0)//队列与组都已经存在
{
isok=true;//组创建成功
//System.out.println(streamKey + "队列" + streamKey + "和组" + groupKey + "都已经存在");
}
else
{
isok=false;//未知异常
log.debug(ex.getMessage());
}
}finally {
return isok;
}
}
订单创建入口函数(放在controller 或 seervice impl) 中
public Result secKillVoucher(Long voucherId) {
long userID = UserHolder.getUser().getId();
String vouchStockKey = RedisConstants.SECKILL_VOUCHERSTOCK_CACHE_KEY + voucherId;
String userid_s = String.valueOf(userID);
String vouchOrderKey = RedisConstants.SECKILL_ORDER_CACHE_KEY + voucherId;
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;
List<String> keys = new ArrayList<>();
keys.add(vouchStockKey);//库存key KEYS[1]
keys.add(vouchOrderKey);//订单key KEYS[2]
keys.add(streamKey);//队列key KEYS[3]
keys.add(groupKey);//消费组key KEYS[4]
//check sec_voucher_stock
// 1 查询优惠券
int count = seckillVoucherService.getRedisStock(voucherId);
if (count <= 0) {
return Result.fail("优惠券库存不存在 count:" + count);
}
long orderid = redisIdWorker.nextId(RedisConstants.ID_ORDER);
CreateStreamAndGroup(streamKey,groupKey);
//订单ID ARGV[3]
//优惠券 id ARGV[2]
//用户id ARGV[1]
//执行lua 完成优惠券库存,一人一单,检查 并创建用户与优惠券ID之间的关联
//脚本完成 创建消息队列 (执行此脚本之前确保队列 已经创建
Long sekResult = stringRedisTemplate.execute(SECKILL_SCRIPT,
keys
, userid_s,String.valueOf(voucherId),String.valueOf(orderid)
);
int ri = sekResult.intValue();
System.out.println("lua 脚本执行返回值 :"+ri);
if(ri!=0)
{
String errtip="优惠券库存不足";
switch (ri)
{
case 2:
errtip="订单重复一人一单";
break;
case 3:
errtip="库存数据不存在";
break;
case 4:
errtip="消息队列不存在";
break;
case 1:
errtip="优惠券库存不足";
break;
default:
errtip="未知错误";
}
return Result.fail(errtip);
}
/**
注意:下面的代理对象要有
*/
proxy=(IVoucherOrderService)AopContext.currentProxy();
return Result.ok(orderid);
}
创建线程获取消息队列并处理
private static final ExecutorService SECKILL_ORDER_EXECUTOR=Executors.newSingleThreadExecutor();
@PostConstruct
private void init(){
//本地阻塞队列的方式
// SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
//读取redis消息队列并处理
SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandlerRedisQueue());
}
//从redis 消息队列中获取消息
private class VoucherOrderHandlerRedisQueue implements Runnable{
@Override
public void run() {
while(true){
//get orderinfo from blockingqueen
try {
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;
String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;
//判断组是否存在
if (!ConsumerGroupExists(streamKey,groupKey)) {
// log.error("异步线程读取redis stream 失败:队列 未创建:"+streamKey);
Thread.sleep(3000);
continue;
}
//从消息队列中获取消息
List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
.read(Consumer.from( groupKey,cs),
StreamReadOptions.empty().count(1).block(Duration.ofSeconds(2))
, StreamOffset.create(streamKey,ReadOffset.lastConsumed())
);
if(queueList==null || queueList.isEmpty() )
{
//未获取到消息
continue;//continue do next
}
//处理消息
MapRecord<String, Object, Object> record = queueList.get(0);
Map<Object, Object> vq = record.getValue();
VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);
//成功获取 创建订单到数据库
handlerVoucherOrder(voucherOrder);
//确认消息 在PEL中移除
stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());
} catch (Exception e) {
HandlePendingList();
log.error(e.getMessage().toString());
//throw new RuntimeException(e);
}
}
}
异常处理 在redis stream pending List 中获取 队列
private void HandlePendingList() {
String streamKey = RedisConstants.REDIS_STREAM_QUEUE_ORDER ;//stream
String groupKey = RedisConstants.REDIS_STREAM_GROUP_ORDER;// consumer group
String cs=RedisConstants.REDIS_STREAM_CONSUMER_ORDER;//consumer
while (true)
try {
{
//read from pel
List<MapRecord<String, Object, Object>> queueList = stringRedisTemplate.opsForStream()
.read(Consumer.from ( groupKey,cs),
StreamReadOptions.empty().count(1)
, StreamOffset.create(streamKey, ReadOffset.from("0"))
);
if(queueList==null ||queueList.isEmpty())
{
//未获取到消息
break;//continue do next normal
}
//处理消息
MapRecord<String, Object, Object> record = queueList.get(0);
Map<Object, Object> vq = record.getValue();
VoucherOrder voucherOrder= BeanUtil.fillBeanWithMap(vq,new VoucherOrder(),false);
//成功获取
handlerVoucherOrder(voucherOrder);
//确认消息
stringRedisTemplate.opsForStream().acknowledge(streamKey,groupKey,record.getId());
}
} catch (Exception e) {
log.debug("消息队列--peding List 处理异常");
try {
Thread.sleep(50);
} catch (InterruptedException ex) {
throw new RuntimeException(ex);
}
}
}
}
订单处理
private IVoucherOrderService proxy;
private void handlerVoucherOrder(VoucherOrder voucherOrder) {
if(voucherOrder==null || voucherOrder.getUserId()==null)
{
log.debug("对象为空 或 属性用户ID 为空。");
}
// user ID
long userID= voucherOrder.getUserId();
RLock lock=redisson.getLock(RedisConstants.LOCK_VOUCHERORDER_KEY+ StrUtil.toString(userID));
boolean islock = lock.tryLock();//active watch dog
if(!islock)
{
log.error("锁创建失败");
}
try {
//IVoucherOrderService proxy=(IVoucherOrderService)AopContext.currentProxy();//获取spring 对当前对象的代理
proxy.createVoucherOrderByObj(voucherOrder);
} catch (IllegalStateException e) {
throw new RuntimeException(e);
}finally {
//lock.unLock(); //my define simple redis lock
lock.unlock();//redisson release lock
}
}
实现类中的方法
@Transactional//因为方法中 订单的操作 和 库存扣减,所以增加事务支持 为防止数据 不同步
public void createVoucherOrderByObj(VoucherOrder voucher) {
// user ID
if(voucher==null || voucher.getUserId()==null)
{
log.debug("对象为空 或 属性用户ID 为空。");
return;
}
long userID=voucher.getUserId();
int count=query().eq("user_id",userID).eq("voucher_id", voucher.getVoucherId()).count();
if(count>0)
{
log.error("优惠券仅限每人一个 count:"+count);
return;
}
//5扣减库存
boolean success=seckillVoucherService.update()
.setSql("stock=stock-1")
.eq("voucher_id", voucher.getVoucherId()).gt("stock",0)
.update();
if(!success)
{
log.error("扣减券库存失败Obj: voucher.getVoucherId():"+ voucher.getVoucherId());
return;
}
System.out.println("voucher saved");
boolean ds = save(voucher);
}
相关推荐
- 【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库
-
如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...
- Pure Storage推出统一数据管理云平台及新闪存阵列
-
PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...
- 对Java学习的10条建议(对java课程的建议)
-
不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...
- SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!
-
官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...
- JDK21有没有什么稳定、简单又强势的特性?
-
佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...
- 「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了
-
在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...
- Java面试题及答案最全总结(2025版)
-
大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...
- 数据库日常运维工作内容(数据库日常运维 工作内容)
-
#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...
- 分布式之系统底层原理(上)(底层分布式技术)
-
作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...
- oracle 死锁了怎么办?kill 进程 直接上干货
-
1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...
- SpringBoot 各种分页查询方式详解(全网最全)
-
一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...
- 《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略
-
《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...
- LoadRunner(loadrunner录制不到脚本)
-
一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...
- Redis数据类型介绍(redis 数据类型)
-
介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...
- RMAN备份监控及优化总结(rman备份原理)
-
今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)