调错API,Redis出现大对象了(redis存大对象性能)
mhr18 2024-10-31 13:24 17 浏览 0 评论
引言
本文讲一个前几天阿雄遇到的Redis线上出现大对象的case!
当然,这又是一个基情满满的故事!在排查故障的过程中,充满着爱恨情仇,周旋于险恶的江湖,为求一个稳定的Redis生产环境!
究竟外包韩和阿雄在那天发生了什么呢?
外包韩和阿雄在产生了怎样的爱恨纠葛?
带着我们的好奇心,开始写我们的文章!
(当然,本故事改编自生活真实案例,文末附上当时现场微信截图!此文较短,3分钟就能看完!)
正文
这天外包韩正在位置上,打开孤独烟的博客,准备开始学习
突然一封运营小姐姐的邮件发来了~大致意思就是,XX系统的XX页面突然响应十分缓慢,希望外包韩排查一下原因
说到这里,外包韩想起了前几天在孤独烟博客里看到的一篇文章《Redis 敢在线上做Keys正则匹配操作!你可以离职了!》,这篇文章里大致是说,由于redis是单线程的,如果在线上执行类似
keys *
这种复杂度为O(n)级别的命令,会阻塞住其他redis命令的执行,从而导致系统响应过慢!
想到这里,外包韩第一反应就是,是不是执行了其他复杂度为O(n)的命令,导致了其他请求比阻塞住,从而线上响应时间十分缓慢!
找到头绪以后,外包韩就在线上进行查询,看看有没有那种执行特别缓慢的,且复杂度为O(n)级别的命令!
于是乎外包韩在线上执行了一个命令SLOWLOG GET。此时,输出记录如下
ps:输出结果从网上拷贝来的,目的是要让大家看到该命令的输出结果大概是什么样的,避免过于抽象。
OK,继续我们的故事!
看到结果,外包韩犯了迷糊!这不对啊,怎么都是一些SET,GET命令,并没那种复杂度高的命令,如SORT这些。这就有点让外包韩犯了迷糊!
于是乎,我们的男主阿雄登场了!
面对外包韩的疑问,阿雄说道:"你的分析方向是对的!确实,调用了复杂度高的redis命令,会导致redis出现卡顿。但是,还有一种情况也会导致Redis卡顿,就是Redis出现大key了(value值过大)!"
"当然,大key可能还会导致一些例如内存空间分布不均匀,数据倾斜问题!我们先不谈,我们先处理这次的生产事故吧!"阿雄一阵叹息道。
"那我们怎么确定这次事故是不是因为大key引起的呢?"外包韩又开始补充道。
"刚才的慢查询日志不是记录下那些key名字了么,我们执行下面的命令即可!这个命令返回一个key和它值在内存中占用的字节数!"
MEMORY USAGE key
说干就干,外包韩一阵操作,key名字为wai:bao:han,只见此时输出结果如下
>memory usage wai:bao:han
(integer) 3600112
惊了,怎么会这么大,一个key的value居然有3M多!
重点什么呢?界面显示上看不出任何异常,仅仅是加载缓慢!
到底value变成了什么,怎么显示正常,却变得这么的大,想到这里,外包韩留下了冷汗!
于是乎外包韩利用redis-cli命令和redis客户端查看数据,发现保存的值都是满屏的\x00\x00!(由于画面过于惊悚,我就不贴图!)
看到这里,阿雄就大概猜到界面显示上看不出任何异常,功能也看不出任何异常的原因!
阿雄:“你应该是在代码里,取出value的位置前后加了trim操作,所以前面的\x00被截去了,因此界面上和功能上看不出任何异常!”
Demo代码如下
String value = stringRedisTemplate.opsForValue().get("wai:bao:han").trim();
接下来,就是定位原因!只见阿雄对着外包韩以手摸手的方式,啊不,手把手的方式找到了set值的位置,只见该处的demo代码如下
stringRedisTemplate.opsForValue().
set("wai:bao:han","I am the most handsome man in the world",60*60*1000);
坦白说,第一眼看到这行代码,阿雄觉得没啥异常,第一个值是key,第二个值是value,第三个值是过期时间。一切都是那么的顺理成章!
然而,跟进源码发现,源码如下
原来,三个参数的api,第三个参数的意思,并不是过期时间,而是offset,偏移量。该方法调用的是redis的setRange方法,对此,官网的解释是:
Redis Setrange 命令用指定的字符串覆盖给定 key 所储存的字符串值,覆盖的位置从偏移量 offset 开始。
demo如下:
原来,外包韩弄错了API。这两个API是有点像,分别是下面这样
- void set(K key, V value, long offset);
- void set(K key, V value, long timeout, TimeUnit unit);
外包韩误用了第一种,而过期时间又设成了1个小时,也就是3600*1000毫秒,那么每个value前就加了3600000个\x00字符,因此value值就变得十分的大!
因此只需要像代码这么改!
stringRedisTemplate.opsForValue().
set("wai:bao:han","I am the most handsome man in the world",60*60*1000,TimeUnit.MILLISECONDS);
就能解决问题,可以正确设置过期时间了!
ok,这篇短文就结束了!至于外包韩和阿雄的故事,远不止这些~敬请期待!
末尾
附上当时现场截图!
来源:https://mp.weixin.qq.com/s/810bpeSavqnkTNbOoiJiMQ
作者:孤独烟
相关推荐
- Docker集群管理之Docker Compose
-
前言:在上一篇《Docker集群管理之DockerMachine》中,我们通过源码分析了解了DockerMachine的工作原理,使用者可以通过DockerMachine的一条命令在任意支持的平...
- 使用Dockerfile build镜像
-
Docker映像可以看作是Docker容器的压缩包,包含了应用程序以及运行应用程序所需的依赖,容器是映像的运行时实例。一般构建镜像都是使用dockerfile进行构建而不是dockercommit,...
- 自建私有云相册:Docker一键部署Immich,照片视频备份利器
-
自建私有云相册:Docker一键部署Immich,照片视频备份利器前言随着人们手机、PC、平板等电子产品多样,我们拍摄和保存的照片和视频数量也在不断增加。如何高效地管理和备份这些珍贵的记忆成为了一个重...
- docker容器的使用以及部署mysql
-
首先什么是docker官方:翻译:Docker是一个用于开发、发布和运行应用程序的开放平台。Docker使您能够将应用程序与基础架构分离,以便您可以快速交付软件。使用Docker,您可以像管理应...
-
- 自建Docker镜像加速服务,免费且简单,服务器VPS、NAS皆可用
-
写在前面:流程十分简单,有手就行,还请耐心看完。本文的实例仅做演示用,不久后将会删除,有需要的各位请自行搭建。免费实例如果15分钟内未收到入站流量,Render会关闭实例的网络服务。Render会在下次收到处理请求时重新启动该服务。Ren...
-
2025-05-24 15:40 mhr18
- 用了8年的方式-用 Docker 瞬间搭建本地开发环境
-
有些时候我们需要在本地搭开发环境,比如平时学习新技术的时候。或者有时候公司的项目需要在本地建一套类似的,方便调试修改。开发环境可能包括MySQL、Redis、Nginx、MQ、Elasticsea...
- 使用dockerfile构建docker镜像
-
准备工作购买vps使用ssh工具连接上1、更新系统aptupdate-y2、一键安装Dockercurl-fsSLhttps://get.docker.com-oget-docker.sh...
- 快速搭建 SpringCloud 微服务开发环境的脚手架
-
本文适合有SpringBoot和SpringCloud基础知识的人群,跟着本文可使用和快速搭建SpringCloud项目。本文作者:HelloGitHub-秦人HelloGitHub推出...
- Docker Hub最全详解(图文全面总结)
-
DockerHubDockerHub是一个由Docker公司负责维护的公共注册中心,它包含了超过15000多个可用来下载和构建容器的Docker镜像。DockerHub作用Docker好比一个代...
- Docker 命令详解
-
dockerimages—查看本地镜像命令dockerimages说明列出本地已下载的所有镜像及其标签、ID、大小等信息。适用场景查看本地镜像资源、准备删除或管理镜像时。常见用法docker...
- Kylin安装Dify
-
cd/mntgitclonehttps://github.com/langgenius/dify.gitcp/mnt/dify/docker/.env.example/mnt/dif...
- kali下对Docker的详细安装
-
Docker是渗透测试中必学不可的一个容器工具,在其中,我们能够快速创建、运行、测试以及部署应用程序。如,我们对一些漏洞进行本地复现时,可以使用Docker快速搭建漏洞环境,完成复现学习。注:本教程仅...
- 银河麒麟V10使用Docker方式部署应用
-
现在越来越多的企业级应用需要运行在国产化环境中,而银河麒麟V10是目前我碰到的最常用的服务器,在银河麒麟上部署应用有两种方式:使用二进制文件编译部署和使用Docker。关于使用二进制文件的方式...
- Docker入门到精通超详细教程,Docker全家桶实战攻略
-
大家好,我是各位双生的武魂、随身老爷爷。从看到这篇内容开始,你就是被选定的天命骚年,将承担起学完docker教程的使命,本使命为单向契约,你可选择YES或者选择YES。正式学习之前,我先给大家做一下d...
- 【Docker 新手入门指南】第一章:前言
-
一、基本介绍Docker介绍Docker是基于Go语言开发的开源容器化平台,旨在实现“一次镜像,处处运行”。它通过将应用程序及其依赖环境(代码、运行时、系统工具、系统库等)打包成一个轻量级、可移...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)