4R分析redis处理客户端请求(redis lru原理)
mhr18 2025-03-25 15:31 23 浏览 0 评论
Role
FD 套接字
EVENT; AcceptEvent ReadEvent WriteEvent
Handler AcceptHandler ReadHandler WriteHandler
buffer : queryBuffer ,replay,其他buffer
IO Multiplexer IO多路复用
Event Loop 事件轮询
Rank
不在深入,不在划分层次
Relation
Rule
连接规则
Redis 使用多路复用和非阻塞 I/O
设置TCP_NODELAY 选项是为了确保连接没有延迟
创建一个 可读文件事件。当sokect有新的可读数据时,触发事件,保证 Redis 能够立即收集客户端查询
检查是否达到最大客户端数量限制( maxclients),若已达到最大客户端数,redis会尝试向客户端发送错误信息并立即关闭连接
maxclients说明
Redis 2.6 +, redis.conf 中可以配置maxclients,默认10000,
最大客户端数 = min( maxclients+32,能够打开的文件描述符的最大数量)
32是redis预留的clients数量。
请求处理顺序
客户端套接字文件描述符编号,内核报告事件的顺序共同确定,因此该顺序 应视为未指定。
当然有2件事是确定的,
每次从客户端套接字,读取内容时,会调用read()方法,执行一次系统调用。
为了提高局部性,从客户端读取新数据时,会把当前缓冲区中所有查询都会按顺序处理
输出缓冲区限制replay
每个客户端一个可变长度的输出缓冲区,
防止客户端无法快速处理,造成输出缓冲区增长,消耗内存大量内存,默认情况下,Redis 会为不同类型的客户端设置输出缓冲区大小的限制。
当达到限制时,客户端连接关闭,事件记录在 Redis 日志文件中。
Redis 使用了两种限制:
- 硬限制是一个固定限制,当达到该限制时,Redis 会尽快关闭客户端连接。
- 软限制是取决于时间的限制,例如每 10 秒 32 M的软限制意味着如果客户端的输出缓冲区连续 10 秒大于 32 M,则连接将关闭。
不同类型的客户端有不同的默认限制:
- 普通客户端的默认限制为 0,即没有限制,因为大多数普通客户端使用阻塞实现发送单个命令并在发送下一个命令之前等待完全读取回复.
- Pub/Sub 客户端的默认硬限制为 32 M,软限制为每 60 秒 8 M。
- 副本的默认硬限制为 256 M,软限制为每 60 秒 64 M。
2种设置输出缓冲区
运行时更改限制, CONFIG SET
redis.conf更改限制。
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 8mb 2mb 60
查询缓冲区硬限制
来自客户端的命令的缓冲区,达到1GB时将关闭连接。
只是避免服务器崩溃的极端限制,以防客户端或服务器软件错误。
client 驱逐策略
Redis 7.0+ 特性
这种机制称为 客户端驱逐,它本质上是一种安全机制,一旦所有客户端的总内存使用量超过阈值,它将断开客户端。
该机制首先尝试断开使用最多内存的客户端。
它断开返回低于 maxmemory-clients阈值所需的最小客户端数量。
maxmemory-clients定义连接到 Redis 的所有客户端的最大聚合内存使用量。
聚合考虑了客户端连接使用的所有内存:查询缓冲区、输出缓冲区和其他中间缓冲区。
副本和主连接不受客户端驱逐机制的影响。因此,此类连接永远不会被驱逐。
maxmemory-clients可以在配置文件 ( redis.conf) 中或通过 CONFIG SET命令永久设置。此设置可以是 0(表示无限制)、以字节为单位的大小(可能带有 mb/ gb后缀)或 maxmemory使用 %后缀的百分比(例如,将其设置为 10%表示 maxmemory配置的 10%)。
默认设置为 0,表示默认情况下关闭客户端驱逐。
大型生产环境,强烈建议配置一些非零 maxmemory-clients值。首次设置建议 5%,后续按需调整。
可以从客户端驱逐机制中排除的特定客户端连接
使用以下命令(来自相关客户端的连接)执行此操作:
CLIENT NO-EVICT on
你可以通过以下方式恢复它:
CLIENT NO-EVICT off
client 超时策略
默认情况下,如果客户端空闲了很多秒,Redis 的最新版本不会关闭与客户端的连接:连接将永远保持打开状态。
但是如果你不喜欢这种行为,你可以配置一个超时,这样如果客户端空闲超过指定的秒数,客户端连接将被关闭。
redis.conf中配置,或者CONFIG SET timeout 。
注意,超时仅适用于普通客户端, 不适用于 Pub/Sub 客户端,因为 Pub/Sub 连接是 推送式连接,因此空闲的客户端是常态。
设置超时的2个场景:
- 关键任务应用程序,其中客户端软件中的错误可能会使 Redis 服务器因空闲连接而饱和,从而导致服务中断。
- 作为一种调试机制,以便在客户端软件中的错误使服务器充满空闲连接时能够与服务器连接,从而无法与服务器交互。
超时不精确:当超时设置为 10 秒时,客户端连接可能会关闭,例如,如果同时连接了多个客户端,则会在 12 秒后关闭
相关推荐
- 使用 Docker 部署 Java 项目(通俗易懂)
-
前言:搜索镜像的网站(推荐):DockerDocs1、下载与配置Docker1.1docker下载(这里使用的是Ubuntu,Centos命令可能有不同)以下命令,默认不是root用户操作,...
- Spring Boot 3.3.5 + CRaC:从冷启动到秒级响应的架构实践与踩坑实录
-
去年,我们团队负责的电商订单系统因扩容需求需在10分钟内启动200个Pod实例。当运维组按下扩容按钮时,传统SpringBoot应用的冷启动耗时(平均8.7秒)直接导致流量洪峰期出现30%的请求超时...
- 《github精选系列》——SpringBoot 全家桶
-
1简单总结1SpringBoot全家桶简介2项目简介3子项目列表4环境5运行6后续计划7问题反馈gitee地址:https://gitee.com/yidao620/springbo...
- Nacos简介—1.Nacos使用简介
-
大纲1.Nacos的在服务注册中心+配置中心中的应用2.Nacos2.x最新版本下载与目录结构3.Nacos2.x的数据库存储与日志存储4.Nacos2.x服务端的startup.sh启动脚...
- spring-ai ollama小试牛刀
-
序本文主要展示下spring-aiollama的使用示例pom.xml<dependency><groupId>org.springframework.ai<...
- SpringCloud系列——10Spring Cloud Gateway网关
-
学习目标Gateway是什么?它有什么作用?Gateway中的断言使用Gateway中的过滤器使用Gateway中的路由使用第1章网关1.1网关的概念简单来说,网关就是一个网络连接到另外一个网络的...
- Spring Boot 自动装配原理剖析
-
前言在这瞬息万变的技术领域,比了解技术的使用方法更重要的是了解其原理及应用背景。以往我们使用SpringMVC来构建一个项目需要很多基础操作:添加很多jar,配置web.xml,配置Spr...
- 疯了!Spring 再官宣惊天大漏洞
-
Spring官宣高危漏洞大家好,我是栈长。前几天爆出来的Spring漏洞,刚修复完又来?今天愚人节来了,这是和大家开玩笑吗?不是的,我也是猝不及防!这个玩笑也开的太大了!!你之前看到的这个漏洞已...
- 「架构师必备」基于SpringCloud的SaaS型微服务脚手架
-
简介基于SpringCloud(Hoxton.SR1)+SpringBoot(2.2.4.RELEASE)的SaaS型微服务脚手架,具备用户管理、资源权限管理、网关统一鉴权、Xss防跨站攻击、...
- SpringCloud分布式框架&分布式事务&分布式锁
-
总结本文承接上一篇SpringCloud分布式框架实践之后,进一步实践分布式事务与分布式锁,其中分布式事务主要是基于Seata的AT模式进行强一致性,基于RocketMQ事务消息进行最终一致性,分布式...
- SpringBoot全家桶:23篇博客加23个可运行项目让你对它了如指掌
-
SpringBoot现在已经成为Java开发领域的一颗璀璨明珠,它本身是包容万象的,可以跟各种技术集成。本项目对目前Web开发中常用的各个技术,通过和SpringBoot的集成,并且对各种技术通...
- 开发好物推荐12之分布式锁redisson-sb
-
前言springboot开发现在基本都是分布式环境,分布式环境下分布式锁的使用必不可少,主流分布式锁主要包括数据库锁,redis锁,还有zookepper实现的分布式锁,其中最实用的还是Redis分...
- 拥抱Kubernetes,再见了Spring Cloud
-
相信很多开发者在熟悉微服务工作后,才发现:以为用SpringCloud已经成功打造了微服务架构帝国,殊不知引入了k8s后,却和CloudNative的生态发展脱轨。从2013年的...
- Zabbix/J监控框架和Spring框架的整合方法
-
Zabbix/J是一个Java版本的系统监控框架,它可以完美地兼容于Zabbix监控系统,使得开发、运维等技术人员能够对整个业务系统的基础设施、应用软件/中间件和业务逻辑进行全方位的分层监控。Spri...
- SpringBoot+JWT+Shiro+Mybatis实现Restful快速开发后端脚手架
-
作者:lywJee来源:cnblogs.com/lywJ/p/11252064.html一、背景前后端分离已经成为互联网项目开发标准,它会为以后的大型分布式架构打下基础。SpringBoot使编码配置...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)