从Redis的架构看Redis使用优化方面的几个要点
mhr18 2024-11-13 11:13 18 浏览 0 评论
最近的一些优化和运维项目中都有Redis,看样子不论是互联网架构的应用还是传统架构的应用,都已经意识到了访问频繁,数据结构简单的热数据使用合理的访问方式是十分重要的。既然客户有需求,我们就需要去深入的研究一下怎么把Redis用好,优化好。做一个运维对象的分析其实也是有套路的,并不一定都是需要从十年八年的积累中才可以获得,特别是针对Redis这样比较简单的内存数据库。
一般来说,对于这类相对简单的运维对象,我们在学习和梳理其要点的时候会首先从管理类、配置类、技术类三方面去了解它。把这些东西搞清楚了,这个运维对象的一些基本的运维,管理,优化就差不多了。当然要做这些事情之前的,一个十分重要的工作就是理解这个运维对象的架构。我觉得理解一个运维对象的架构对于今后去运维管理,做优化都是十分关键的。我和很多使用Redis开发应用系统的人聊过,他们大多数都没有关注过Redis的架构,反正给我变成接口,告诉我一些基本的操作,我就开干了,架构啥的我不关注。事实上,一个想把Redis用好的程序员,也是需要去深入的理解Redis的架构的。
Redis是一个轻量级的内存缓冲组件,被广泛的用作内存数据库、缓冲、消息代理、消息队列等。Redis可以提供亚毫秒级的响应时间,支持数十万甚至上百万级别的并发访问。不过很可能很多朋友都没有关注到,Redis的核心从本质上来说是单线程架构的。
这是网上都可以找到的十分典型的Redis单实例架构的逻辑架构图,是不是显得太简单了一点,不过事实上Redis就是这样的,十分简单。实际上大多数内存数据库,哪怕是timesten这样的内存关系型数据库,都会和普通的磁盘库在体系架构上有巨大的不同,这是因为内存与磁盘访问在延时上有成千上万倍的不同。Redis作为一种内存KV数据库,更需要十分简单的方式来充分利用内存的低延时特性,提供高吞吐量的访问。可能还是有朋友无法理解为什么Redis设计之初不设计成多线程架构,让Redis可以具有更高的吞吐能力。这个争论早在5、6年前就有过了,最典型的是2014年在Quora上针对Redis架构的争论,我看过之后受益良多。其实在多线程架构的数据库中,锁冲突是十分高开销的争用。相对于磁盘的IO延时来说,Enqueue的开销可能还可以接受,而对于内存的访问速度来说,锁争用带来的负面影响可能远超多线程带来的好处。因此Redis在设计之初就选择了无锁的串行单线程访问数据的架构。甚至最初的Redis整体都是单线程架构的。随着Redis的发展,Redis也出现了一些多线程的特性,比如4.0开始,延迟大键的删除操作,采用单独的后台进程来处理,另外多线程也被用于一些较满的IO操作。不管怎么发展Redis的核心数据访问还是串行单线程,无锁方式的访问。这种单线程的架构也让应用开发变得十分简单,因为无需考虑锁的问题,也不需要考虑回滚和提交。
这种单线程架构决定了Redis是不怎么消耗CPU的,因此你无需为单个的Redis实例配置过多的CPU,一般来说,2-4颗逻辑CPU线程就完全足够应付任何场景的并发访问了。
不过对于这种单线程架构,命令是串行执行的,因此平均每条命令执行的时间长度决定了单个Redis实例的并发访问量,比如我们一条命令平均延时为20ns,那么一秒钟有1000000ns,执行命令的总数理论上限是1000000/20=5万。比如下面的这个例子:
从报告上可以看出,平均每秒可以执行2万多条命令,而这些命令的执行中位数是35ns,算起来20106*35大概是0.7秒左右。
从单线程架构上我们也可以看出,Redis的并发访问是需要串行排队的,因此相同的命令,其执行时间是不稳定的,如果前面排队的命令比较多,那么排在前面的这条命令的总体执行时间比排在队伍后面的快十倍也是很正常的。因此对于Redis应用的性能分析,不能看单次的执行时间,更重要的是要看平均时间,中位数时间,90分位时间等指标。如果你的应用的中位数执行时间超过100ns,或者99分位数执行时间超过2毫秒,那么你的应用的性能是不能接受的,这会大大影响整个Redis实例上的应用的性能。如果说普通的数据库某条SQL慢点可能影响面有限,对于单线程的Redis来说,某些特别慢的命令是不能接受的,必须进行优化或者进行隔离,否则一颗老鼠屎可能会坏了一锅汤。
从Redis的单线程架构,也给我们的应用的横向扩展能力提出了要求。刚才我们也计算过了,单一的Redis实例的最大并发量是有限的,我们能够对应用做的优化也是有极限的。因此使用Redis的应用,如果需要支撑较大的并发量的话,一定要能够很方便的横向扩展的。我们可以通过Redis Cluster来做分片处理,通过多个Redis的集群来成倍的扩充Redis服务的并发量。
从Redis的单线程架构上来看,Redis数据库是内存敏感的,我们一定要确保Redis服务器的操作系统内存的充足,Redis也提供了大了的监控信息来帮我们分析内存是否足够。当服务器内存不足的时候,OOM KILLER要杀的肯定是Redis服务,因此我们也要确保Redis服务不会成为首先被杀的对象。
mem_fragmentation_ratio是一个十分值得关注的指标,这个指标出现异常,会引发REDIS的性能问题。如果这个指标超过1.5,说明Redis数据库存在较大的碎片,碎片会引起内存访问性能问题,从而影响数据库的总体性能。而如果这个指标小于1,说明数据库中有一部分内存被放入swap了,这更会引发更大的Redis性能问题。我们这台服务器上除了跑Redis外还有我们的一些其他的应用,包括postresql数据库、tomcat服务器等,最近总会出现内存不足的情况,swap使用率经常超过50%。可以看出,某些时段里,Redis出现了mem_fragmentation_ratio小于1的情况。如果你们的生产系统出现这种情况,那么给服务器或者虚拟机扩内存是十分必要的。
另外一点,从Redis是单线程的内核态访问为主的应用,那么其CPU资源消耗上,应该大部分的CPU都是可心态的访问,因此对于一台只是跑Redis数据库的服务器来说,sys的cpu比例应该很高。
在这个监控指标中,我们看出sys和user差不多,这是因为我们的服务器上还有PG数据库的原因。如果我们在自己的Redis服务器上发现了这种现象,那么就需要分析一下到底哪些非Redis实例在消耗CPU资源了。
相关推荐
- Java面试题合集200道!
-
1.Java中操作字符串都有哪些类?它们之间有什么区别?String、StringBuffer、StringBuilder.String和StringBufer、StringBuilder的区别...
- JAVA分布式锁的原理,及多种分布式实现优劣对比分析
-
引题比如在同一个节点上,两个线程并发的操作A的账户,都是取钱,如果不加锁,A的账户可能会出现负数,正确的方式是对账户acount进行加锁,即使用synchronized关键字,对其进行加锁后,当有线程...
- 百度Linux C++后台开发面试题(个人整理)
-
1、C/C++程序的内存分区其实C和C++的内存分区还是有一定区别的,但此处不作区分:1)、栈区(stack)—由编译器自动分配释放,存放函数的参数值,局部变量的值等。其操作方式类似于数据结构中...
- 什么是云计算?看这篇就够了(建议收藏)
-
一、什么是云?云,又称云端,指无数的大型机房或者大型数据中心。二、为什么需要云?1)从用户的角度来讲:传统应用的需求日益复杂,比如需要支持更多的用户,需要更强的计算能力等,为满足这些日益增长的需求,企...
- 写PHP框架需要具备那些知识?
-
如果没用过框架,讨论各个框架的内容都没有可讨论性,想自己写个框架涉及到的内容很多,个人觉得自己写一个框架对自己的逻辑思维,开发架构以及这门语言都有质的提升。可以参照其他框架的源代码,仅仅是看他们的思路...
- 不允许还有Java程序员不了解BlockingQueue阻塞队列的实现原理
-
我们平时开发中好像很少使用到BlockingQueue(阻塞队列),比如我们想要存储一组数据的时候会使用ArrayList,想要存储键值对数据会使用HashMap,在什么场景下需要用到Blocking...
- Java性能优化指南—缓存那些事
-
由于笔者自身水平有限,如果有不对或者任何建议欢迎批评和指正本文预计阅读时间10分钟,分为前言、填坑两部分,主要包含缓存的基本使用到高级应用场景的介绍一、前言在处理高并发请求时,缓存几乎是无往不利的利器...
- 卓象科技:Nosql的介绍以及和关系型数据库的区别
-
Nosql介绍NoSQL(NotOnlySQL),泛指非关系型数据库。Nosql的全称是NotOnlySql,这个概念很早就有人提出,在09年的时候比较火。Nosql指的是非关系型数...
- 腾讯一面凉经(一面竟然就问了2小时,什么情况?)
-
这次一面感觉是在打心理战,哥们自己的心里防线基本是被击溃,面到怀疑人生的程度,所以过程感觉不是太好,很多题哥们自己也感觉没答好,要么答得“缺胳膊少腿”,要么就是“画蛇添足”。先是聊项目,从项目的架构设...
- 我凭借这份pdf,最终拿到了阿里,腾讯,京东等八家大厂offer
-
怎样才能拿到大厂的offer,没有掌握绝对的技术,那么就要不断的学习我是如何笑对金九银十,拿到阿里,腾讯等八家大厂的offer的呢,今天分享我的秘密武器,美团大神整理的Java核心知识点,面试时面试官...
- 高并发 异步解耦利器:RocketMQ究竟强在哪里?
-
本文带大家从以下几个方面详细了解RocketMQ:RocketMQ如何保证消息存储的可靠性?RocketMQ如何保证消息队列服务的高可用?如何构建一个高可用的RocketMQ双主双从最小集群?Rock...
- 阿里最新Java架构师成长笔记开源
-
下面先给大家上一个总的目录大纲,基础的东西就不进行过多的赘述,我们将会从JVM说起,同时由于每篇的内容过多,我们也只说重点,太过基础的内容谁都会,我就不多敲字浪费大家的时间了!JVM多线程与高并发Sp...
- 程序员失业2个月找不到工作,狂刷了5遍这份pdf终获字节跳动offer
-
写在前面1月初失业,找了近2个多月的工作了,还没找到心仪的工作,感觉心好慌,不知道该怎么办了?找不到工作的时候压力很大,有人说自信会很受打击,还有人说会很绝望,是人生的低谷……尽管很多时候我们自己知道...
- Spring AI 模块架构与功能解析
-
SpringAI是Spring生态系统中的一个新兴模块,专注于简化人工智能和机器学习技术在Spring应用程序中的集成。本文将详细介绍SpringAI的核心组件、功能模块及其之间的关...
- Nginx从入门到精通,超详细整理,含项目实战案例|运维必学
-
Nginx是免费的、开源的、高性能的HTTP和反向代理服务器、邮件代理服务器、以及TCP/UDP代理服务器。因为它的稳定性、丰富的模块库、灵活的配置和低系统资源的消耗而闻名。Nginx可以做静态HT...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)