百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

京东秒杀系统模块的Redis分布式锁深度剖析,没给你讲明白你打我

mhr18 2024-10-22 12:37 25 浏览 0 评论

1|0背景

目前开发过程中,按照公司规范,需要依赖框架中的缓存组件。不得不说,做组件的大牛对CRUD操作的封装,连接池、缓存路由、缓存安全性的管控都处理的无可挑剔。但是有一个小问题,该组件没有对分布式锁做实现,那就要想办法依靠缓存组件自己去实现一个分布式锁了。

什么,为啥要自己实现?有现成的开源组件直接拿过来用不就行了,比如Spring-Integration-Redis提供RedisLockRegistry,Redisson,不比自己去实现快的多。那我得声明一下,本人也不喜欢重复造轮子。具体原因呢,首先是项目中的缓存组件是不能替换的,连接池还可能没有办法复用,其次就是如果对开源组件实现原理不熟悉,那么出了问题,维护起来又需要更多成本。

先说一下当前需要分布式锁的两个场景,一个是微信端access_token刷新(分布式锁可以保证access_token只刷新一次,刷新完成之后放入缓存,其他请求直接从缓存读取);一个是分布式部署的定时任务(分布式锁可以保证同一时刻只有一个节点的定时任务执行)。

2|0什么是分布式锁

在单机部署的情况下,要想保证特定业务在顺序执行,通过JDK提供的synchronized关键字、Semaphore、ReentrantLock,或者我们也可以基于AQS定制化锁。单机部署的情况下,锁是在多线程之间共享的,但是分布式部署的情况下,锁是多进程之间共享的。那么分布式锁要保证锁资源的唯一性,可以在多进程之间共享。

3|0分布式锁特性

  • 保证同一个方法在某一时刻只能在一台机器里一个进程中一个线程执行;
  • 要保证是可重入锁(避免死锁);
  • 要保证获取锁和释放锁的高可用;

4|0分布式锁实现方案对比

  • Mysql:一般项目都会用到缓存,不可能都用数据库,强依赖数据库不现实。虽然实现乐观锁和悲观锁很简单,但是性能不佳。
  • Redis:首先集群可以提高可用性,其次借助Redis实现分布式锁也很简单,另外有很多框架已经帮我们实现好了,直接拿来用就可以了,很方便。同时定期失效的机制可以解决因网络抖动锁删除失败的问题,所以我比较倾向Redis实现。
  • Zookeeper:和Mysql一样,不可能为了用分布式锁而去新增并维护一套Zookeeper集群,其次实现起来还是比较复杂的,实现不好的话还会引起“羊群效应”。如果不是原有系统就依赖Zookeeper,同时压力不大的情况下,一般不使用Zookeeper实现分布式锁。

5|0分布式锁考虑要点

  • 锁释放(finally);
  • 锁超时设置;
  • 锁刷新(定时任务,每2/3的锁生命周期执行);
  • 如果锁超时了,防止删除其他线程的锁(其他线程会拿到锁),考虑 value值用线程id标识,当前线程释放锁的时候要判断是否为当前线程的线程id;
  • 可重入;

6|0Redis分布式锁

6|1RedisLockRegistry

RedisLockRegistry是spring-integration-redis中提供redis分布式锁实现类。主要是通过redis锁+本地锁双重锁的方式实现的一个比较好的锁。

OBTAIN_LOCK_SCRIPT是一个上锁的lua脚本。KEYS[1]代表当前锁的key值,ARGV[1]代表当前的客户端标识,ARGV[2]代表过期时间。

基本逻辑是:根据KEYS[1]从redis中拿到对应的客户端标识,如已存在的客户端标识和ARGV[1]相等,那么重置过期时间为ARGV[2];如果值不存在,设置KEYS[1]对应的值为ARGV[1],并且过期时间是ARGV[2]。

获取锁的过程也很简单,首先通过本地锁(localLock,对应的是ReentrantLock实例)获取锁,然后通过RedisTemplate执行OBTAIN_LOCK_SCRIPT脚本获取redis锁。

为什么要使用本地锁呢,首先是为了锁的可重入,其次是减轻redis服务压力。

释放锁的过程也比较简单,第一步通过本地锁判断当前线程是否持有锁,第二步通过本地锁判断当前线程持有锁的计数。

如果当前线程持有锁的计数 > 1,说明本地锁被当前线程多次获取,这时只释放本地锁(释放之后当前线程持有锁的计数-1)。

如果当前线程持有锁的计数 = 1,释放本地锁和redis锁。

RedisLockRegistry使用如上所示。

首先定义RedisLockRegistry对应的Bean,需要依赖redis的ConnectionFactory。

然后在服务层中注入RedisLockRegistry实例。

通过lock方法和unlock方法将业务逻辑包起来,需要注意的是unlock方法要写在finally代码块中。

6|2Redisson

Redisson是架设在Redis基础上的一个Java驻内存数据网格(In-Memory Data Grid)。

充分的利用了Redis键值数据库提供的一系列优势,基于Java实用工具包中常用接口,为使用者提供了一系列具有分布式特性的常用工具类。

使得原本作为协调单机多线程并发程序的工具包获得了协调分布式多机多线程并发系统的能力,大大降低了设计和研发大规模分布式系统的难度。

同时结合各富特色的分布式服务,更进一步简化了分布式环境中程序相互之间的协作。

  

首先感受一下通过Redisson Api使用redis分布式锁。

定义RedissonBuilder,通过redis集群地址构建RedissonClient。

定义RedissonClient类型的Bean。

业务代码里,通过RedissonClient获取分布式锁。

由于对Redisson分布式锁实现原理了解的也不是很透彻,这里推荐一篇文章:Redisson 分布式锁实现分析。

6|3Redisson和RedisLockRegistry对比

  • RedisLockRegistry通过本地锁(ReentrantLock)和redis锁,双重锁实现,Redission通过Netty Future机制、Semaphore (jdk信号量)、redis锁实现。
  • RedisLockRegistry和Redssion都是实现的可重入锁。
  • RedisLockRegistry对锁的刷新没有处理,Redisson通过Netty的TimerTask、Timeout 工具完成锁的定期刷新任务。
  • RedisLockRegistry仅仅是实现了分布式锁,而Redisson处理分布式锁,还提供了了队列、集合、列表等丰富的API。

7|0动手实现分布式锁

7|1实现原理

本地锁(ReentrantLock)+ redis锁

7|2获取锁lua脚本

7|3锁刷新lua脚本

7|4锁释放lua脚本

7|5本地锁定义

每一个lock key对应唯一的一个本地锁

7|6 线程标识定义

分布式环境下,每一个线程对应一个唯一标识

7|7 锁刷新定时任务定义

通过JDK ConcurrentTaskScheduler完成定时任务执行,ScheduledFuture完成定时任务销毁。其中taskId对应线程标识。

7|8定义分布式锁注解

7|9分布式锁切面

通过RedisLock注解实例lockInfo获取到锁key值、锁过期时间信息。

7|10获取锁过程

  1. 通过lockInfo.key()方法获取到锁key值,通过锁key值拿到对应的本地锁(ReentrantLock)
  2. 本地锁获取锁对象
  3. 进入获取redis锁的循环
  4. 通过缓存服务组件执行获取锁的lua脚本
  5. 如果获取到redis锁,判断当前线程是否第一次获取到锁并且开启了锁刷新,相应的注册锁刷新定时任务
  6. 如果没有获取到redis锁,休眠lockInfo.sleep()毫秒的时间,再次重试

7|11释放锁过程

  1. 获取到当前锁key值对应的本地锁
  2. 判断当前线程是否为本地锁锁的持有者
  3. 如果本地锁的重入次数大于1,则只释放本地锁
  4. 如果本地锁的重入次数等于1,释放本地锁和redis锁

7|12分布式锁测试

定义测试类,测试方法注上@RedisLock注解,制定锁的key值为 "redis-lock-test",测试方法内随机休眠。

开启20个线程,同时调用测试方法。

多线程redis分布式锁测试结果如下。

  

定义可重入测试类,方法内获取当前代理对象,递归调用测试方法。

测试方法中,调用可重入测试类注有@RedisLock的测试方法。

分布式锁可重入测试结果如下。

8|0分布式锁实际应用

8|1定义access_token刷新服务

refreshAccessToken方法上标注@RedisLock注解,表明此方法在分布式环境下会串行执行。

首先从缓存里获取access_token。

如果缓存里的access_token为空或者和失效的access_token相等,通过TokenAPI生成新的access_token并放入缓存。

如果缓存里的access_token不为空并且和失效的access_token不相等,直接返回缓存里的access_token。

8|2定义access_token获取服务

如果缓存中的access_token为空,直接刷新access_token并放入缓存。

如果缓存中的access_token不为空且和失效的access_token相等则刷新access_token并放入缓存,否则直接返回缓存中的access_token。

8|3分布式锁应用场景

在分布式环境下,涉及线程间并发问题和进程间并发问题都是可以通过分布式锁解决的。如果是单节点线程之间共享资源的并发问题可以通过JDK提供的线程锁来解决,如果是多节点多线程之间共享资源的并发问题就需要借助分布式锁。比如最常见的秒杀、抢红包,后台服务中涉及到库存扣减、金额扣减、以及其他高并发串行化场景的操作都可用分布式锁来解决问题。本文讲述的例子主要是应用在微信公众号和微信小程序access_token刷新、微信分享jsapi_ticket刷新,分布式锁可以保证access_token和jsapi_ticket在高并发下只有一个线程去执行刷新动作,避免多次刷新后access_token或者jsapi_ticket失效的问题。


相关推荐

Springboot数据访问(整合动态数据源)

Springboot整合动态数据源dynamic-datasource-spring-boot-starter基本概念这个依赖是MyBatis-Plus团队开发的动态数据源组件,它是一个基于Spri...

《有手就会写sql》-第1章 数据库(sql实时更新同表里某个字段的数据)

为啥要用数据库存放数据的方式,有很多种,常用的比如:excel,数据库等。有了excel,为啥还要用数据库呢?原因有很多。其中之一:excel存储的数据有限的,最多能存个几千万条。但一个银行的交易数据...

DBdoctor:一款企业级数据库性能诊断工具

DBdoctor是一个全面覆盖开发、测试、运维等各个环节SQL审核以及数据库性能诊断与优化的监控平台。针对数据库性能诊断门槛高、耗时长的问题,DBdoctor提供了快速易用的解决方案,深入到数...

面试必问:MySQL死锁 是什么,如何解决?(史上最全)

MySQL死锁接触少,但面试又经常被问到怎么办?最近有小伙伴在面试的时候,被问了MySQL死锁,如何解决?虽然也回答出来了,但是不够全面体系化,所以,小北给大家做一下系统化、体系化的梳理,帮助大家在面...

JAVA入门教程-第1章 概述(java入门篇)

大道至简-JAVA入门教程在本教程中,你将学习Java语言的基础知识。Java基础内容涵盖:Java基础概念、Java词法结构、Java数组、Java流程控制、Java字符串、Java...

突发消息!微软停止俄罗斯业务(微软停止服务怎么办)

越来越多的IT公司加入封杀俄罗斯的阵营中。数字化转型网先后关注的有(点击下方蓝字可打开文章):SAP停止俄罗斯所有业务乌克兰呼吁SAP、Oracle封杀俄罗斯,Oracle已停止在俄所有业务埃森哲停止...

分布式数据库设计——存储引擎原理(全)

摘要数据库的一个首要目标是可靠并高效地管理数据,以供人们使用。进而不同的应用可以使用相同的数据库来共享它们的数据。数据库的出现使人们放弃了为每个独立的应用开发数据存储的想法,同时,随着数据库广泛的使用...

Java运行环境配置(java运行环境配置成功截图)

若要在计算机上运行Java程序,需要配置Java运行环境(JRE)或Java开发工具包(JDK)。以下是在Windows操作系统上配置Java运行环境的步骤:下载Java安装程序:前往Oracle官方...

分布式任务调度Celery(分布式任务调度平台)

本文介绍了分布式任务调度系统Celery,包括安装,开发使用,并且配合supervisor,flower等工具进行系统化部署和使用。(一)安装和代码开发使用示例一,简介Celery是一个分布式任务调度...

Android SDK 安装与配置(android sdk安装在哪里)

AndroidSDK安装与配置全流程指南一、前期准备与环境要求1.系统兼容性验证o操作系统:支持Windows10/11(64位)、macOS10.14+、Ubuntu16.04+等主流...

高性能Linux服务器构建实战:运维监控、性能调优与集群应用

百万级字迹详解实战案例,篇幅因素故只展现pdf目录,完整解析获取方式在篇尾了!目录读者对象Web应用篇(1至第3章)数据备份恢复篇(4至第6章)网络存储应用篇(7和第8章)运维监控与性能优化篇(9和第...

Vmware虚拟机迁移数据库时踩过的坑

从Vmware迁移数据库虚拟机到其他平台,起来后认不到asm盘,不禁傻眼了。很多时候为了保证虚拟机系统的完整可启动,在做任何变更前,领导都会要求克隆一份镜像保存,或者直接在镜像上操作。这是传统的备份理...

Java 中 java.util.Date 与 java.sql.Date 有什么区别?

Java里的java.util.Date和java.sql.Date绝对是那种看起来不起眼但能搞得你Debug到半夜的“坑王”。我们先从表面上看,java.sql.Date是继承自j...

主流数据库的不同点在哪?MySQL和SQL Server的区别介绍

在本教程中,树懒君介绍了两种最普遍应用的RDBMS—MySQL和MicrosoftSQLServer。通过介绍MySQL和SQLServer的几个关键区别,希望大家能在这两者之间做出最适合自己的...

Java安全-Java Vuls(Fastjson、Weblogic漏洞复现)

复现几个Java的漏洞,文章会分多篇这是第一篇,文章会分组件和中间件两个角度进行漏洞复现复现使用环境VulhubVulFocus组件Fastjson1.2.24反序列化RCEFastJson...

取消回复欢迎 发表评论: