01-redis读书笔记:redis的基本架构和底层数据结构
mhr18 2024-11-15 22:07 14 浏览 0 评论
0 本节结构
- redis的基本架构
- redis中的常用数据类型
- redis中的底层数据结构
- 全局hash表
- 总结
1. 基本架构
- 访问框架
- 网络访问框架
- 操作模块
- 索引模块
- 存储模块
- 分配器
- 持久化
- 高可用集群支撑模块
- 高可用扩展集群支撑模块
2. redis中常用的数据类型
- 字符串(String)
- 列表(List)
- 散列(Hash)
- 有序集合(Sorted Set)
- 集合(Set)
- 比特位数组(Bitmaps)
- HperLogLogs
3.redis中的底层数据结构
- 字符串(String) 底层数据结构对应 简单动态字符串
- 列表(List) 底层数据结构 由双向链表,压缩列表数据结构实现
- 散列(Hash)底层数据结构由 压缩列表,哈希表数据结构实现
- 有序集合(Sorted Set)底层数据结构由压缩列表,跳表数据结构实现
- 集合(Set)底层数据结构由 哈希表,整数数组数据结构实现
对应关系如下
集合类型的底层数据结构主要有5种: 整数数组,双向链表,哈希表,压缩列表,跳表
整数数组和双向链表都是顺序读写,通过数组下标或链表指针 逐个元素访问,操作复杂度为O(N),操作效率不高
压缩列表类似于数组 ,数组中每一个元素都对应保存一个数据,压缩列表表头有三个字段zlbytes,zltail,zllen 分别表示列表长度,列表尾的偏移量和列表中的entry个数,压缩列表在表尾还有一个zlend 表示列表结束,所以说,再查找第一个元素和最后一个元素时,复杂度是O(1),其他的操作就是O(n)了
跳表只是在链表的基础上,增加了多级索引,通过索引位置的跳转,实现数据的快速定位
这几种类型的时间复杂度如下:
4. 全局hash表
为了实现从键到值的快速访问,redis使用了一个哈希表来保存所有键值对
知识点
- redis的全局哈希表由多个哈希表结构构成的,每个哈希表称为一个数据库,默认有16个
- 每个数据库都使用字典来实现键值对的存储
- 如果冲突太多,redis会进行 渐进式rehash
- 渐进式rehash过程:
redis默认有2个全局哈希表: 哈希表1和哈希表2,一开始,当插入数据时,默认使用哈希表1,
此时哈希表2并没有被分配空间,随着数据增多,rehash过程分为三步
1.给哈希表2分配更大的空间,当前哈希表1大小的两倍
2.把哈希表1中的数据重新映射并拷贝到哈希表2中
3. 释放哈希表1的空间
为了避免一次性把哈希表1中的数据都迁移完,会造成redis线程阻塞,无法提供其他请求,所以采用了 渐进式rehash,简单来说就是在第二步拷贝数据时,Redis 仍然正常处理客户端请求,每处理一个请求 时,从哈希表 1 中的第一个索引位置开始,顺带着将这个索引位置上的所有 entries 拷贝到哈希表 2 中;等处理下一个请求时,再顺带拷贝哈希表 1 中的下一个索引位置的entries,如下图
5.小结:
- 针对单元素操作,如 Hash 类型的 HGET、HSET 和 HDEL,Set 类型的 SADD、SREM、SRANDMEMBER 等。这些操作的复杂度由集合采用的数据结构决定,例如,HGET、HSET 和 HDEL 是对哈希表做操 作,所以它们的复杂度都是 O(1);Set 类型用哈希表作为底层数据结构时,它的 SADD、 SREM、SRANDMEMBER 复杂度也是 O(1)。如果对多个元素进行操作的话,如 HMGET和HMSET,和SADD 时,复杂度由O(1)变成O(M)了
- 针对范围操作,如 Hash类型的 HGETALL 和 Set 类型的 SMEMBERS,或者返回一个范围内的部分数据,比如 List类型的 LRANGE 和 ZSet 类型的 ZRANGE。这类操作的复杂度一般是 O(N),比较耗时,我们应该尽量避免。在redis 2.8版本后 可以使用 HSCAN,SSCAN 和ZSCAN 命令来代替范围查询的命令,这些命令是渐进式遍历,每次只返回有限数量的数据,不会导致redis阻塞
- 针对统计操作 ,如 LLEN 和 SCARD 这类复杂度为O(1)
- 例外情况 如压缩列表和双向链表都会记录表头和表尾的偏移量。这样一来,对于 List 类型的 LPOP、RPOP、LPUSH、RPUSH 这四个操作来说,它们是在列表的头尾增删元素,这就可以通过偏移量直接定位,所以它们的复杂度也只有 O(1),可以实现快速操作。
相关推荐
- C++开发必知的内存问题及常用的解决方法-经典文章
-
1.内存管理功能问题由于C++语言对内存有主动控制权,内存使用灵活和效率高,但代价是不小心使用就会导致以下内存错误:omemoryoverrun:写内存越界odoublefree:同一块内...
- 缓存用不好,系统崩得早!10条军规让你成为缓存高手
-
凌晨三点,我被电话惊醒:“苏工!首页崩了!”监控显示:缓存命中率0%,数据库QPS10万+,线程阻塞2000+。根本原因竟是同事没加缓存!不会用缓存的程序员,就像不会刹车的赛车手——...
- 彻底搞清楚内存泄漏的原因,如何避免内存泄漏,如何定位内存泄漏
-
作为C/C++开发人员,内存泄漏是最容易遇到的问题之一,这是由C/C++语言的特性引起的。C/C++语言与其他语言不同,需要开发者去申请和释放内存,即需要开发者去管理内存,如果内存使用不当,就容易造成...
- Java中间件-Memcached(Java中间件大全)
-
一、知识结构及面试题目分析缓存技术的大规模使用是互联网架构区别于传统IT技术最大的地方,是整体高并发高性能架构设计中是重中之重的关键一笔,也是互联网公司比较偏好的面试题目。按照在软件系统中所处位置...
- linux内存碎片防治技术(linux内存碎片整理)
-
推荐视频:90分钟了解Linux内存架构,numa的优势,slab的实现,vmalloc原理剖析Linux内核内存分配与回收Linuxkernel组织管理物理内存的方式是buddysystem(伙...
- Redis主从架构详解(redis主从配置详细过程)
-
Redis主从架构搭建Redis主节点配置创建主节点目录(/opt/redis-master),复制redis.conf到该目录下,redis.conf配置项修改#后台启动daemonizeyes...
- 揭开CXL内存的神秘面纱(内存c1)
-
摘要:现代数据中心对内存容量的高需求促进了内存扩展和分解方面的多条创新线,其中一项获得极大关注的工作是基于ComputeeXpressLink(CXL)的内存扩展。为了更好地利用CXL,研究人员建...
- 一文彻底弄懂 TPS RPS QPS(tps cps)
-
以下是关于RPS、QPS、TPS的核心区别与关联的总结,结合实际场景和优化建议:一、核心定义与区别RPS:RequestsPerSecond每秒请求数客户端到服务器的完整请求数量Web服务...
- 用Redis的“集合”找出你和朋友的“共同关注”
-
你是不是在刷抖音、微博、小红书的时候,常常会看到这样的提示:“你和XXX有共同关注的博主/朋友”?或者当你关注了一个新的明星,系统会推荐“你的朋友YYY也关注了这位明星”?这个看似简单的功能背后,其实...
- WOT2016彭哲夫:科班出身开发者对运维人员的期许
-
“运维与开发”是老生常谈的话题,前几天和一个运维人聊天,TA说一些公司运维岗位都不公开招聘了,这让众多运维人员情何以堪?是运维的岗位真的饱和了?是找到合适的运维人才难?还是有这样那样的因素?带着这些疑...
- Java程序员最常用的20%技术总结(java程序员要掌握什么)
-
我听说编程语言,经常使用的是其中20%的技术。在Java这门语言中,这20%包括哪些内容?找到一份Java初级程序员的工作,有哪些是必须掌握的,有哪些是可以现学现卖的?一个完整的Javaweb项目,有...
- 秒杀系统实战(四)| 缓存与数据库双写一致性实战
-
前言微笑挖坑,努力填坑。————已经拥有黑眼圈,但还没学会小猪老师时间管理学的蛮三刀同学本文是秒杀系统的第四篇,我们来讨论秒杀系统中「缓存热点数据」的问题,进一步延伸到数据库和缓存的...
- 头条评论精灵翻牌子(头条评论精灵翻牌子怎么弄)
-
关于“头条评论精灵翻牌子”功能,这通常是指平台通过算法或运营手段,将用户的优质评论随机或定向推送到更显眼的位置(如信息流顶部、独立曝光位等),以提升互动率和用户参与感。以下是详细解析和建议:一、功能理...
- 15个程序员们都应该知道的大模型高级提示词指令模板和示例
-
作为程序员你如何写大模型指令?你写的指令是不是更专业呢?下面是15个程序员使用的专业的大模型指令,如果早知道可以能节省你很多时间。这些指令可以用在chatgpt,deepseek等大模型。1.一键...
- MyBatis-Plus内置的主键生成策略有大坑,要注意!
-
昨天小伙伴使用Mybaits-Plus开发的项目线上(集群、K8S)出现了主键重复问题,其报错如下:Mybatis-Plus启动时会通过com.baomidou.mybatisplus.core.to...
你 发表评论:
欢迎- 一周热门
-
-
Redis客户端 Jedis 与 Lettuce
-
高并发架构系列:Redis并发竞争key的解决方案详解
-
redis如何防止并发(redis如何防止高并发)
-
开源推荐:如何实现的一个高性能 Redis 服务器
-
redis安装与调优部署文档(WinServer)
-
Redis 入门 - 安装最全讲解(Windows、Linux、Docker)
-
一文带你了解 Redis 的发布与订阅的底层原理
-
Redis如何应对并发访问(redis控制并发量)
-
oracle数据库查询Sql语句是否使用索引及常见的索引失效的情况
-
Java SE Development Kit 8u441下载地址【windows版本】
-
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)