百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

「调优案例1」优化使用Redis批量查询操作,响应时间提高100倍

mhr18 2024-10-22 12:39 25 浏览 0 评论

## 查询优化:批量拉黑状态查询

## 目录

  • 一、背景
  • 二、优化分析
  • 三、优化代码
  • 四、优化效果

## 一、背景

### 1.1 业务描述

  • 1. 查询视频列表,过滤用户拉黑的主播
  • 2. 表结构参考from_uid, to_uid, is_blocked
CREATE TABLE `t_user_block` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT,
  `from_uid` bigint(20) NOT NULL COMMENT '用户ID',
  `to_uid` bigint(20) NOT NULL COMMENT '拉黑用户ID',
  `is_blocked` tinyint(1) NOT NULL DEFAULT '0' COMMENT '是否拉黑 0-否 1-是',
  `create_at` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',
  `updated_at` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新时间',
  PRIMARY KEY (`id`),
  KEY `idx_from_to` (`from_uid`, `to_uid`)
) ENGINE=InnoDB AUTO_INCREMENT=437 DEFAULT CHARSET=utf8 COMMENT='用户拉黑表';
  • 3. 考虑性能采用Redis有序集合存储
  • 4. 通过zscore判断是否存储拉黑的用户
  • 5. 提供批量查询接口(例如视频一次性拉取100条记录),from_uid,to_uids,批量判断拉黑状态
  • 6. 拉黑表数据量大约100多万

### 1.2 问题描述

  • 1. 接口响应RT通过Prometheus+Grafana+AlterManager监控,根据接口请求频次,响应时间进行告警
  • 2. 收到批量查询拉黑接口响应时间超过100ms+的告警邮件
  • 3. 大约1天100多封

## 二、优化分析

### 2.1 代码分析

  • 1. 批量查询接口采用循环查询关注关系,100个用户则有100次zscore操作,对应会有100次与redis的网络IO
  • 2. 参考Redis的批量操作MGET可以将多个zscore合并成一次执行,但是批量zscore并没有原生支持
  • 3. 可以考虑使用Redis中Pipeline合并多次网络IO,自行封装zScore操作的代码

## 三、优化代码

### 3.1 优化之前代码

public Map<Long, Boolean> multiBlockOf(long from, String tos) {
  List<Long> toList = UserUtils.parseUIDString(tos);
  Map<Long, Boolean> result = new HashMap<>(toList.size());
  String blockKey = relationCacheService.getBlockKey(from);

  for (Long uid : toList) {
    result.put(uid, false);
    if (relationCacheService.redisHasKey(blockKey)) {
      ZSetOperations<String, String> zSetOps = relationCacheService.getRedisTemplate().opsForZSet();
      if (zSetOps.score(blockKey, String.valueOf(uid)) != null) {
        result.put(uid, true);
      }
    }
  }
  return result;
}


### 3.1 优化后代码

1. multiBlockOf()代码

public Map<Long, Boolean> multiBlockOf(long from, String tos) {
  List<Long> toList = UserUtils.parseUIDString(tos);

  Map<Long, Boolean> result = new HashMap<>(toList.size());

  // 之需要查询一次缓存Key
  String blockKey = relationCacheService.getBlockKey(from);
  if (!relationCacheService.redisHasKey(blockKey)) {
    return result;
  }

  Map<Long, Object> userExists = relationCacheService.zScoreMultiExists(blockKey, toList);

  for (Long uid : toList) {
    result.put(uid, userExists.containsKey(uid));
  }

  return result;
}

2. zScoreMultiExists代码

public Map<Long, Object> zScoreMultiExists(String key, List<Long> members) {
        if (CollectionUtils.isEmpty(members)) {
            return new HashMap<>();
        }

        List<Object> objects = redisTemplate.executePipelined((RedisCallback<Object>) connection -> {
            StringRedisSerializer serializer = new StringRedisSerializer();
            for (Long member : members) {
                connection.zScore(serializer.serialize(key), serializer.serialize(member.toString()));
            }
            return null;
        });

        Map<Long, Object> result = new HashMap<>();
        int size = members.size();
        for (int i = 0; i < size; i++) {
            Long member = members.get(i);
            Object val = objects.get(i);
            if (null != val) {
                result.put(member, val);
            }
        }

        return result;
    }

## 四、优化效果

### 4.1 优化本地测试

### 4.2 线上测试

1. 接口RT平均100ms

2. 接口TR平均1ms

### 4.3 效果

1. 接口性能RT提高100倍

2. 封装到RedisUtils工具类

参考资料

1. [Redis系列十:Pipeline详解](https://blog.csdn.net/w1lgy/article/details/84455579)

相关推荐

【预警通报】关于WebLogic存在远程代码执行高危漏洞的预警通报

近日,Oracle官方发布了2021年1月关键补丁更新公告CPU(CriticalPatchUpdate),共修复了包括CVE-2021-2109(WeblogicServer远程代码执行漏洞)...

医院信息系统突发应急演练记录(医院信息化应急演练)

信息系统突发事件应急预案演练记录演练内容信息系统突发事件应急预案演练参与人员信息科参与科室:全院各部门日期xxxx-xx-xx时间20:00至24:00地点信息科记录:xxx1、...

一文掌握怎么利用Shell+Python实现完美版的多数据源备份程序

简介:在当今数字化时代,无论是企业还是个人,数据的安全性和业务的连续性都是至关重要的。数据一旦丢失,可能会造成无法估量的损失。因此,如何有效地对分布在不同位置的数据进行备份,尤其是异地备份,成为了一个...

docker搭建系统环境(docker搭建centos)

Docker安装(CentOS7)1.卸载旧版Docker#检查已安装版本yumlistinstalled|grepdocker#卸载旧版本yumremove-ydocker.x...

基础篇:数据库 SQL 入门教程(sql数据库入门书籍推荐)

SQL介绍什么是SQLSQL指结构化查询语言,是用于访问和处理数据库的标准的计算机语言。它使我们有能力访问数据库,可与多种数据库程序协同工作,如MSAccess、DB2、Informix、M...

Java21杀手级新特性!3行代码性能翻倍

导语某券商系统用这招,交易延迟从12ms降到0.8ms!本文揭秘Oracle官方未公开的Record模式匹配+虚拟线程深度优化+向量API神操作,代码量直降70%!一、Record模式匹配(代码量↓8...

一文读懂JDK21的虚拟线程(java虚拟线程)

概述JDK21已于2023年9月19日发布,作为Oracle标准Java实现的一个LTS版本发布,发布了15想新特性,其中虚拟线程呼声较高。虚拟线程是JDK21中引入的一项重要特性,它是一种轻量级的...

效率!MacOS下超级好用的Linux虚拟工具:Lima

对于MacOS用户来说,搭建Linux虚拟环境一直是件让人头疼的事。无论是VirtualBox还是商业的VMware,都显得过于笨重且配置复杂。今天,我们要介绍一个轻巧方便的纯命令行Linux虚拟工具...

所谓SaaS(所谓三维目标一般都应包括)

2010年前后,一个科技媒体的主编写一些关于云计算的概念性问题,就可以作为头版头条了。那时候的云计算,更多的还停留在一些概念性的问题上。而基于云计算而生的SaaS更是“养在深闺人未识”,一度成为被IT...

ORA-00600 「25027」 「x」报错(报错0xc0000001)

问题现象:在用到LOB大对象的业务中,进行数据的插入,失败了,在报警文件中报错:ORA-00600:内部错误代码,参数:[25027],[10],[0],[],[],[],[],[...

安卓7源码编译(安卓源码编译环境lunch失败,uname命令找不到)

前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...

编译安卓源码(编译安卓源码 电脑配置)

前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...

360 Vulcan Team首战告捷 以17.5万美金强势领跑2019“天府杯“

2019年11月16日,由360集团、百度、腾讯、阿里巴巴、清华大学与中科院等多家企业和研究机构在成都联合主办了2019“天府杯”国际网络安全大赛暨2019天府国际网络安全高峰论坛。而开幕当日最激荡人...

Syslog 日志分析与异常检测技巧(syslog发送日志配置)

系统日志包含有助于分析网络设备整体运行状况的重要信息。然而,理解并从中提取有效数据往往颇具挑战。本文将详解从基础命令行工具到专业日志管理软件的全流程分析技巧,助你高效挖掘Syslog日志价值。Gr...

从Oracle演进看数据库技术的发展(从oracle演进看数据库技术的发展的过程)

数据库技术发展本质上是应用需求驱动与基础架构演进的双向奔赴,如何分析其技术发展的脉络和方向?考虑到oracle数据库仍然是这个领域的王者,以其为例,管中窥豹,对其从Oracle8i到23ai版本的核...

取消回复欢迎 发表评论: