Redis中的List,底层采用了什么数据结构?
mhr18 2025-03-23 21:15 59 浏览 0 评论
这篇文章,我们将从 Redis List 的基本原理出发,深入分析其内部实现机制、源码层面的细节,并结合实际示例,全面解析 Redis List 的工作原理。
1. Redis List 概述
Redis 的 List 是一个简单的字符串列表,按照插入顺序排序。它支持在列表的两端插入或删除元素,具有以下特点:
- 有序:元素按照插入顺序排列,可以通过索引访问。
- 双端操作:支持从左端(头部)和右端(尾部)进行插入和删除操作。
- 高效:在两端插入和删除的时间复杂度为 O(1)。
常用的 List 命令包括 LPUSH、RPUSH、LPOP、RPOP、LINDEX、LRANGE 等。
2. Redis List 的内部实现
Redis 的 List 数据结构内部实现主要依赖于两个数据结构:压缩列表(ziplist)和双端链表(quicklist)。根据 List 的大小和元素的长度,Redis 会自动选择合适的数据结构,以优化存储空间和操作效率。
2.1 压缩列表
压缩列表 是一种为节省内存而设计的紧凑数据结构。它将多个元素紧密存储在一个连续的内存块中,适用于小型的 List。
- 结构:压缩列表由三个部分组成:ziplist header、entry list 和 ziplist end。
- 性能:适用于含有少量元素且每个元素较短的 List,节省内存但在频繁插入和删除时性能较低。
2.2 双端链表
从 Redis 3.2 版本开始,List 的内部实现改为使用 quicklist,它结合了压缩列表和双向链表的优点。
- 结构:quicklist 是由多个压缩列表(ziplist)组成的双向链表,每个压缩列表称为一个节点(node)。
- 优势:
- 高效插入与删除:在两端插入和删除元素时,只需要操作链表的头部或尾部节点,时间复杂度为 O(1)。
- 节省空间:每个节点内部仍然使用压缩列表存储元素,节省内存。
- 灵活性:适用于包含大量元素的 List。
3. 源码分析
下面将通过源码分析 Redis List 的实现机制,重点关注 quicklist 相关的代码部分。
3.1 数据结构定义
Redis 在 src/quicklist.h 文件中定义了 quicklist 相关的数据结构。
// quicklist.h
typedefstruct quicklistEntry {
unsignedchar *value; /* value of the entry */
unsignedint sz; /* length of the value */
longlong longval; /* long representation, if applicable */
unsignedint encoding:4;
unsignedint attempted_float_conversion:1;
} quicklistEntry;
typedefstruct quicklistNode {
struct quicklistNode *prev;
struct quicklistNode *next;
unsignedchar *zl; /* ziplist containing some entries */
unsignedint sz; /* byte size of ziplist */
unsignedint count:16;
unsignedint encoding:4;
unsignedint container:4;
unsignedint recompress:1;
} quicklistNode;
typedefstruct quicklist {
quicklistNode *head;
quicklistNode *tail;
const quicklistCompress *compress;
unsignedint count; /* total count of all entries in all the nodes */
unsignedlong len; /* count of all elements */
unsignedlong maxlevel;
unsignedint fill:16;
unsignedint compress_depth:4;
unsignedint mem_compressed:1;
} quicklist;
主要的数据结构包括:
- quicklistEntry:表示 quicklist 中的一个条目(entry)。
- quicklistNode:表示 quicklist 中的一个节点,包含一个 ziplist。
- quicklist:整个 quicklist 结构,包含头尾节点、统计信息等。
3.2 常用命令的实现
以下将以 LPUSH、RPUSH、LPOP、RPOP、LINDEX、LRANGE 等命令为例,分析它们在源码中的实现。
3.3 LPUSH 和 RPUSH
LPUSH 和 RPUSH 用于在 List 的左端和右端插入元素。它们在 quicklist 中的实现主要涉及调用 quicklistPush 函数。
// listOp.c
void quicklistPush(quicklist *quicklist, void *value, size_t sz, int where) {
// 省略参数检查和类型转换
if (where == QUICKLIST_HEAD) {
// 插入到链表头部
// 如果头节点已满,创建新节点
} else {
// 插入到链表尾部
// 如果尾节点已满,创建新节点
}
// 使用 ziplist 插入元素
// 更新统计信息
}
核心逻辑:
- 判断插入的位置(头部或尾部)。
- 检查对应位置的节点是否有足够空间插入新元素。
- 如果节点已满,创建一个新的节点并插入。
- 在对应节点的 ziplist 中插入新元素。
- 更新 quicklist 的统计信息。
3.4 LPOP 和 RPOP
LPOP 和 RPOP 用于从 List 的左端和右端弹出元素。它们主要调用 quicklistPopCustom 函数。
// listPop.c
int quicklistPopCustom(quicklist *quicklist, int where, long long *v, unsigned char **sval, unsigned int *slen) {
if (where == QUICKLIST_HEAD) {
// 从头部节点的 ziplist 弹出元素
// 如果节点为空,删除节点并移动到下一个节点
} else {
// 从尾部节点的 ziplist 弹出元素
// 如果节点为空,删除节点并移动到前一个节点
}
// 更新统计信息和 quicklist 结构
}
核心逻辑:
- 根据弹出的位置,选择头部或尾部节点。
- 从对应节点的 ziplist 中弹出元素。
- 如果节点为空,删除节点并更新链表指针。
- 更新 quicklist 的统计信息。
3.5 LINDEX
LINDEX 用于获取 List 中指定索引的元素。它调用 quicklistIndex 函数。
// listIndex.c
quicklistEntry *quicklistIndex(quicklist *quicklist, long index) {
// 处理负索引
// 遍历 quicklist 中的节点,累加节点中元素的数量
// 找到包含目标索引的节点
// 在节点的 ziplist 中查找具体的元素
}
核心逻辑:
- 处理负索引(从尾部开始计数)。
- 遍历 quicklist 的节点,累加每个节点的元素数量。
- 确定目标索引所在的节点。
- 在该节点的 ziplist 中查找目标元素。
3.6 LRANGE
LRANGE 用于获取 List 中指定范围的元素。它调用 quicklistGetRange 函数。
// listRange.c
quicklistIter *quicklistGetIterator(quicklist *quicklist, int direction) {
// 创建一个迭代器,从头部或尾部开始遍历 quicklist
}
int quicklistNext(quicklistIter *i, quicklistEntry *entry) {
// 通过迭代器遍历 quicklist 中的元素
}
核心逻辑:
- 创建一个迭代器,指定遍历方向(从头到尾或从尾到头)。
- 遍历 quicklist 的节点和节点内的 ziplist,收集指定范围的元素。
- 返回结果集合。
4. 性能优化与选择
Redis 在 List 的内部实现中,通过 quicklist 结构在节省内存和提高操作效率之间取得了平衡。以下是一些性能优化的考虑:
- 节点大小(fill factor):quicklist 中每个节点的 ziplist 有一个填充因子(默认是 4),决定了多少元素被存储在一个节点中。适当的填充因子可以减少节点数量,提高遍历效率。
- 压缩算法:quicklist 支持多种压缩算法,通过配置可以进一步优化内存使用。
- 迭代器机制:通过迭代器遍历 quicklist,提高了操作的灵活性和效率。
在选择使用 List 时,应根据实际需求和数据规模合理设计,避免在极大的 List 上进行频繁的中间位置插入和删除操作,因为这可能导致性能下降。
5. 为什么List底层有两种实现
List 数据结构的底层采用了 压缩列表(ziplist) 和 双端链表(quicklist) ,其实是 内存效率 与 操作性能 之间取得最佳平衡。主要原因如下:
1. 压缩列表
内存节省:压缩列表是一种为节省内存而设计的紧凑数据结构。它将多个元素紧密存储在一个连续的内存块中,避免了传统链表中每个节点需要额外指针(如前驱和后继指针)带来的内存开销。对于包含少量元素且每个元素较短的小型列表,压缩列表能够显著减少内存使用量。
缓存友好性:由于压缩列表将所有元素存储在一个连续的内存区域中,这种布局有助于提升缓存命中率。CPU 在访问数据时,能够更高效地预取和缓存数据,从而提高访问速度。
简单数据结构:压缩列表的实现相对简单,适用于不需要频繁插入和删除操作的场景。对于静态或变化不大的小型列表,压缩列表提供了足够的性能和内存效率。
2. 双端链表
高效的两端操作:双端链表允许在列表的头部和尾部进行高效的插入和删除操作,时间复杂度为 O(1)。这对于需要频繁在两端进行操作的应用场景(如队列和栈)尤为重要。
动态扩展能力:与压缩列表相比,双端链表更适合处理动态变化较大的列表。它能够灵活地在任意位置插入和删除元素,而不会像压缩列表那样需要整体移动内存块。
分段存储与性能优化:Quicklist 通过将列表分段存储,每个段使用压缩列表(ziplist)作为节点,实现了分块管理。这种设计兼具了压缩列表的内存效率和双端链表的操作性能。具体来说,每个 quicklist 节点内部是一个压缩列表,多个节点通过双端链表连接起来。这样,在需要进行插入或删除操作时,仅需操作相关的节点,而不影响整个列表结构。
Redis 会根据列表的长度和元素的大小,自动决定使用压缩列表还是双端链表。这种智能选择机制确保了在不同场景下都能获得最佳的性能和内存使用率。例如:
- 小型列表:当列表较小且元素较短时,Redis 会选择压缩列表,最大化内存节省和缓存效率。
- 大型列表:当列表变得较大或元素较长时,Redis 会转而使用 quicklist,以提升操作性能和扩展能力。
6. 总结
本文,我们从源码角度分析了 Redis 的 List 数据结构,它是一个高效、灵活的数据结构,适用于多种应用场景,如消息队列、任务管理等。通过内部的 quicklist 结构,Redis 在节省内存和优化操作效率方面做出了平衡。通过学习本文,我们也可以发现 Redis 对性能的追求。
相关推荐
- 一文掌握怎么利用Shell+Python实现多数据源的异地备份程序
-
简介:在信息化时代,数据安全和业务连续性已成为企业和个人用户关注的焦点。无论是网站数据、数据库、日志文件,还是用户上传的文档、图片等,数据一旦丢失,损失难以估量。尤其是当数据分布在多个不同的目录、服务...
- 浅谈Java内省(java内部)
-
一、什么是内省讲内省,不得不说JavaBean,Bean在Java中是一种特殊的类,主要用于装载数据,数据会被存储在类的私有属性中,通常具有无参构造函数、可序列化、以及通过getter和setter...
- MyBatis批量插入的3种方案对比,速度差10倍!
-
你还在用for循环做MyBatis批量插入?本文通过真实案例+代码实测,对比三种批量插入方案的速度差异与实现原理。文末附实测数据截图,看完立省80%数据库操作时间!一、青铜方案:循环单条插入(性能灾...
- 渗透中值得关注的不常见的敏感扩展名综合指南,收藏夹吃灰专用
-
在进行渗透测试或数据安全评估时,除了常规的.config、.xml、.sql、.bak等文件,还存在许多不常见但可能包含极高价值敏感信息的文件。以.psc(Navicat数据库备份压缩文件)为...
- 美创安全实验室 | 三大数据库写入WebShell的姿势总结
-
WebShell作为黑客常用来提权的工具,通常出现在存在任意文件上传漏洞的网站中,但如果遇到一个没有任何的上传点的网站,想通过文件上传漏洞获得权限显然就行不通了,但所谓"山穷水尽疑无路、柳暗花...
- Java面试必备八股文(java面试必备八股文pdf下载)
-
Java基础1.Java的特点面向对象平台无关性(JVM实现)健壮性(自动内存管理、异常处理)多线程支持安全性2.Java基本数据类型8种基本类型:整型:byte(1),short(2),in...
- 嵌入式ADC驱动框架:通道控制 + 数据读取全流程剖析
-
一个嵌入式操作系统或驱动框架中的ADC(模拟数字转换器)驱动模块,用于管理ADC通道的配置、读取、启停等功能。以下是对各部分的详细解读:一、基本结构和宏控制#ifdefMR_USING_AD...
- 40亿QQ号,不超过1G内存,如何去重?
-
分享一道网上很火的面试题:40亿QQ号,不超过1G的内存,如何去重?这是一个非常经典的海量数据去重问题,并且做了内存限制,最多只能1GB,本文跟大家探讨一下~~一、常规思路我们日常开发中,如果谈到去重...
- PS各个工具的作用及用法(ps中各个工具的用途及使用方法)
-
PS各个工具的作用及用法1.移动工具,可以对PHOTOSHOP里的图层、照片进行移动。2.选框工具,负责建立形状的选区,可以用来抠图。只有选区内的图像可以修改。(1)矩形选择工具,可以对图像选一个矩形...
- PS中常用图片的格式(ps中常用图片的格式是什么)
-
PhotoshopCC支持多种文件格式,如TIFF、GIF、JPEG等,文件格式决定了图像数据的存储方式以及文件是否与一些应用程序兼容。使用【存储】或者【存储为】命令保存文件时,可以在弹出的对话框...
- 浅析 BMP 位图(bmp位图是什么意思)
-
1、BMP是什么?BMP是Bitmap(位图)的简称,是windows显示图片的基本格式。在windows下,任何格式的图片文件(包括视频播放)都要转化为位图才能显示出来,各种各样格式的图片文件也都...
- ClickHouse在自助行为分析场景的实践应用
-
一、自助分析场景OLAP技术选型1.1背景1.2OLAP选型考量1.3ClickHouse二、高斯平台自助分析场景2.1系统介绍2.2系统架构2.3ClickHouse在高斯平台的业务场景...
- PostgreSQL 模糊查询优化(全模糊、忽略大小写优化)
-
模糊查询是数据库系统中非常常见的一种操作,比如查找用户名、邮件、用户地址、电话等等。我们知道前缀匹配(LIKExx%)是可以走索引的,但是全模糊(LIKE%xx%)就无法走索引,甚至忽略大小写等这...
- Java手写一个bitmap(java怎么写)
-
位图(Bitmap)是一种高效的,使用位来记录数据的结构,多用于存储和操作大量布尔值(通常是true或false)。位图通过使用位(bit)来表示布尔值,从而节省存储空间并提高操作效率。位(Bit):...
- 位图(Bitmap)管理在驱动与资源分配中的应用
-
位图(Bitmap)管理在驱动与资源分配中的应用在驱动开发与资源分配的领域中,高效的资源管理方式至关重要。位图(Bitmap)管理凭借其独特的优势,成为了开发者们手中的得力工具。接下来,让我们深入探究...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle基目录 (50)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (53)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)