redis的高并发解决方案epoll任务驱动模型 + MQ...
mhr18 2024-10-25 12:39 47 浏览 0 评论
kafka用了 零拷贝+页缓存
实际上是借助零拷贝 只用了堆外内存(页缓存)
RockerMQ、Redis用了 mmap+页缓存
实际上是用的 堆内内存 + 堆外内存(页缓存) 在堆内内存里存储mmap内存映射关系
因为rabbitMQ默认不持久化
持久化并不是rabbitMQ的核心功能点。所以rabbitMQ并没有使用 零拷贝、mmap、页缓存去优化读写性能
零拷贝sendFile
kafka里：数据直接由磁盘->内核态->socket网关
redis里：主从同步时、日志文件不进入用户态直接在内核态完成sendfile调用MMAP共享缓存、内存映射
Redis里、rabbitMQ、RocketMQ里都使用了mmap进行性能优化
功能
减少了数据传输、处理时的用户态 内核态的切换次数
减少了数据的拷贝次数，用户态拷贝到内核态
节省了内核态拷贝到用户态的开销redis里的MMAP
1、MMAP里使用了两个存储结构
1.1红黑树
连接建立后生成文件描述符放入mmap里、以红黑树的形式去存储
存储两端建立的每一个连接
每个链接都是 一个文件描述符
redis服务线程会监听这些链接里是否有数据、请求到达
1.2链表
作为任务队列存储待处理的请求
异步io线程和主线程去处理队列里的请求、返回响应
2、线程在使用mmap里的数据时
无需进行内核态的切换，因为此空间是 用户态和内核态共享的
无需进行描述符的复制，因为是共享的、直接通过引用获取即可文件描述符
两端建立的每一个socket连接
对于redis的系统内核 kernal 而言都是一个文件描述符
就会把这个链接是生成一个文件描述符去存储在内核态redis的发展史
epoll任务驱动模型
Epoll基础
因为检测到连接里有数据到达时 才会触发事件,所以才被称为任务驱动模型
通过Epoll模型,制定了请求的处理流程,优化高并发的性能问题
即使是同一时刻到达的两个请求,进入网卡以后
通过redis系统的Epoll机制,也能保证排队处理
epoll是poll的一种优化,只会监听、维护活跃状态下的连接epoll在完成整个流程时的各个步骤
文字描述比较多，这里直接懒省事、贴图片了
相关推荐
- Redis合集-使用benchmark性能测试
-
采用开源Redis的redis-benchmark工具进行压测，它是Redis官方的性能测试工具，可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译，详情请参见Redis...
- Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好
-
最近看了几十份简历，发现大部分人不是技术差，而是不会“卖自己”——一、简历死穴：你写的不是经验，是岗位说明书！反面教材：ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法：...
- redission YYDS（redission官网）
-
每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架，它提供了各种锁实现，包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...
- 从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道
-
2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时，订单系统却产生了1200笔有效订单。事故复盘发...
- SpringBoot系列——实战11:接口幂等性的形而上思...
-
欢迎关注、点赞、收藏。幂等性不仅是一种技术需求，更是数字文明对确定性追求的体现。在充满不确定性的网络世界中，它为我们建立起可依赖的存在秩序，这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...
- 如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享
-
如何优化系统架构设计缓解流量压力提升并发性能？Java实战分享在高流量场景下。首先，我需要回忆一下常见的优化策略，比如负载均衡、缓存、数据库优化、微服务拆分这些。不过，可能还需要考虑用户的具体情况，比...
- Java面试题: 项目开发中的有哪些成长?该如何回答
-
在Java面试中，当被问到“项目中的成长点”时，面试官不仅想了解你的技术能力，更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例，帮助你清晰、有说服力地展示成长点：一...
- 互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?
-
你有没有遇到过这样的情况？在电商大促时，系统上线了抢券活动，结果活动刚一开始，服务器就不堪重负，出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮，最后却被告知无券可抢，体验极差。作为互联网大厂的后...
- 每日一题 |10W QPS高并发限流方案设计(含真实代码)
-
面试场景还原面试官：“如果系统要承载10WQPS的高并发流量，你会如何设计限流方案？”你：“（稳住，我要从限流算法到分布式架构全盘分析）…”一、为什么需要限流？核心矛盾：系统资源（CPU/内存/数据...
- Java面试题:服务雪崩如何解决?90%人栽了
-
服务雪崩是指微服务架构中，由于某个服务出现故障，导致故障在服务之间不断传递和扩散，最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法：限流限制请求速率：通过限流算法（如令牌桶算法、漏桶算...
- 面试题官:高并发经验有吗，并发量多少，如何回复?
-
一、有实际高并发经验（建议结构）直接量化"在XX项目中，系统日活用户约XX万，核心接口峰值QPS达到XX，TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...
- 瞬时流量高并发“保命指南”:这样做系统稳如泰山，老板跪求加薪
-
“系统崩了，用户骂了，年终奖飞了！”——这是多少程序员在瞬时大流量下的真实噩梦？双11秒杀、春运抢票、直播带货……每秒百万请求的冲击，你的代码扛得住吗？2025年了，为什么你的系统一遇高并发就“躺平”...
- 其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。
-
其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。比如上周有个小伙伴找我，五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他：你做的秒杀...
- PHP技能评测（php等级考试）
-
公司出了一些自我评测的PHP题目，现将题目和答案记录于此，以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct()，类的构造函数__destruct()，类的析构函数__cal...
- 你的简历在HR眼里是青铜还是王者?
-
你的简历在HR眼里是青铜还是王者？兄弟，简历投了100份没反应？面试总在第三轮被刷？别急着怀疑人生，你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)