百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

记一次线上使用redis时执行lua脚本的惨痛经历

mhr18 2024-11-05 10:24 26 浏览 0 评论

一、简介

现如今是追求快速的生活,什么都要求快快快,为了赶上公交,迈开脚步拼命奔跑;总觉着公交很慢,恨不得插上翅膀在天空飞行。

我们每天抱着手机,每一刻都在刷新着网页,但凡手机中的内容显示时慢了一秒,内心也觉得相当愤怒:“这都是什么垃圾软件,连个网页都出不来”,

内心中早已吐糟了不知多少次……。作为程序员,我们当然知道这些事情,我们内心也很无奈,但是我们都是有志向的好青年,我们付出自己的全部,

哪怕是将软件的响应时间提高了几毫秒,那么我们的付出就是有价值的。

在软件开发中,为了提高程序的执行效率,我们做了很多努力,其中,有这么一款软件,它凭借执行快速高效稳定的特点,成功引起了我们的注意,

没错,它就是redis,一个很实用的工具软件,给与我们极大的帮助。

二、redis是什么

Redis 是一种开源(BSD 许可)、是一个内存中数据结构存储,可用作数据库、缓存和消息代理等。

redis的性能极高,读写速度可以达到10万次/s。

redis有丰富的数据类型,极大方便我们的使用。

redis的所有操作都是原子性的,这在实际使用中是很重要的一点。

redis还拥有丰富的特性,例如redis还支持 publish/subscribe,key过期等。

redis的优点还有很多,只要多多使用,肯定会发现更多的美的。


三、lua脚本是什么

Lua 是一个小巧的脚本语言,其设计目的是为了嵌入应用程序中,从而为应用程序提供灵活的扩展和定制功能。

Redis 2.6 版本已经内嵌了Lua 解释器来支持 Lua 环境,执行lua脚本主要有以下优点:

3.1、减少网络开销,在 Lua 脚本中可以把多个命令放在同一个脚本中运行。

3.2、具有原子性,Redis 会将整个脚本作为一个整体执行,无需担心并发, 也就无需事务;

3.3、具有复用性,客户端发送的脚本可以存储在 Redis 中,这个脚本就可以被其他客户端复用从而完成同样的逻辑。


四、线上环境遇到的问题

有一个需求,为了提高执行效率,使用了lua脚本,代码如下:

String key = app:studentId:111;

// 只有当key存在时,才允许修改

String script = "if redis.call('exists', KEYS[1]) == 1 then return redis.call('hset', KEYS[1],KEYS[2],KEYS[3]) else return -1 end";

DefaultRedisScript redisScript = new DefaultRedisScript(script);

redisScript.setResultType(Long.class);

ArrayList<String> keys = new ArrayList<>();

keys.add(key);

keys.add("name");

keys.add("小张");

Object result = redisTemplate.execute(redisScript,keys);

if(result != null && Integer.parseInt(result.toString()) >= 0){

log.info("修改缓存学生信息成功!");

}else{

log.info("修改缓存学生信息失败,失败原因是:此key在缓存中不存在!");

}

代码编写完成后,经过简单测试,lua脚本可以正常运行,程序没有异常。

然后将项目部署到生产环境,此处代码开始抛出异常:io.lettuce.core.RedisCommandExecutionException: ERR 'EVALSHA' command keys must in same slot

为什么会有异常呢?为什么本地测试是OK的,但是生产环境却抛出异常呢?


五、执行lua脚本时为什么出现异常呢

如上代码在本地测试是OK的,但是在生产环境却抛出异常,经过分析后可知,本地redis是单机模式;生产redis是集群模式。正是由于redis环境的不同导致了此次异常。

具体描述,如下:

5.1、单机模式下,执行如上lua脚本没有问题

5.2、Redis要求单个Lua脚本操作的key必须在同一个节点上,但是redis Cluster会将数据自动分布到不同的节点(虚拟的16384个slot,具体看官方文档)

5.3、简单描述:Redis cluster对多key操作有限制,要求命令中所有的key都属于一个slot,才可以被执行。

而这段代码在生产环境的redis集群模式中,违反了上述原则(keys中的key没有落到同一个slot中),所以导致抛出了异常。

如果,一个lua脚本中包含多个key,那么怎样才可以保证正确执行呢?请看keySlot算法。


六、正确的使用lua脚本

keySlot算法,如下:


所以有两个建议,如下:

建议1:开发功能,定义key时,key的格式中可以带有{},将多个key的共性标识放进去,保证这些key可以落在同一个节点

建议二:集群执行lua脚本时,提前使用keyslot 命令验证多个key是否都在同一个节点。

经过修复后,代码如下:(keys中只保留一个参数)

String key = app:studentId:111;

// 只有当key存在时,才允许修改

String script = "if redis.call('exists', KEYS[1]) == 1 then return redis.call('hset', KEYS[1],ARGV[1],ARGV[2]) else return -1 end";

DefaultRedisScript redisScript = new DefaultRedisScript(script);

redisScript.setResultType(Long.class);

ArrayList<String> keys = new ArrayList<>();

keys.add(key);

Object result = redisTemplate.execute(redisScript,keys,"name","小张");

if(result != null && Integer.parseInt(result.toString()) >= 0){

log.info("修改缓存学生信息成功!");

}else{

log.info("修改缓存学生信息失败,失败原因是:此key在缓存中不存在!");

}


七、后记

对技术有敬畏之心,对测试有敬畏之心,开发时多思考一步,测试时涵盖所有的case,那么后续将节省很多的时间与精力。

相关推荐

【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库

如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...

Pure Storage推出统一数据管理云平台及新闪存阵列

PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...

对Java学习的10条建议(对java课程的建议)

不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...

SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!

官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...

JDK21有没有什么稳定、简单又强势的特性?

佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...

「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了

在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...

Java面试题及答案最全总结(2025版)

大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...

数据库日常运维工作内容(数据库日常运维 工作内容)

#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...

分布式之系统底层原理(上)(底层分布式技术)

作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...

oracle 死锁了怎么办?kill 进程 直接上干货

1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...

SpringBoot 各种分页查询方式详解(全网最全)

一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...

《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略

《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...

LoadRunner(loadrunner录制不到脚本)

一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...

Redis数据类型介绍(redis 数据类型)

介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...

RMAN备份监控及优化总结(rman备份原理)

今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...

取消回复欢迎 发表评论: