百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

Redis的淘汰机制分析(redis 淘汰策略有哪些?)

mhr18 2024-11-04 12:48 34 浏览 0 评论

1.1、淘汰机制分析简介

我们知道,redis的性能很高,有很大的原因是因为数据是存储在内存中的。

但是,如果我们长期使用redis, key不断的增加的情况,我们的物理内存终究会满的,并且要满的时候也会与会是内存与磁盘做swap交换,频繁的IO操作将会使得性能极具下降。

所以我们需要存在缓存淘汰机制,去保证机器不至于因为太多key导致内存撑爆。

1.2、redis的最大内存设置

内存设置在redis.conf中的maxmemory

1.2.1、不设置最大内存

Redis的key是固定的,不会增加

如果redis作为db使用,为了保证数据的完整性,不能够淘汰。此时可以做集群,横向扩展,增大存储key的数据。

此时的缓存淘汰策略:禁止驱逐(默认)

1.2.2、设置最大内存

设置为0

Redis作为缓存使用,key的数量是不断增加的。

maxmemory设置为0 表示不限制,也是默认值。

存在问题:超过物理内存性能急剧下降,频繁IO性能更加下降。

设置指定大小

具体设置多少一般与业务有关,比如你就存储几个或几十个key, 你是怎样的方式都无所谓啦。

一般一个redis实例,去除1G内存保证系统稳定运行,剩下的就可以设置redis。一般情况设置为物理内存的3/4。

# 设置最大内存 在redis.conf中
maxmemory 1024mb

命令获取和设置maxmemory

# 获取最大内存 默认是0 表示不限制
127.0.0.1:6379> config get maxmemory
1) "maxmemory"
2) "0"
# 设置为1024mb
127.0.0.1:6379> config set maxmemory 1024mb
OK
# 重新获取
127.0.0.1:6379> config get maxmemory
1) "maxmemory"
2) "1073741824"

如果设置了maxmemory之后,如果趋近maxmemory时,通过缓存淘汰机制,从内存中删除对象。

1.3、expire数据结构

如果看过上一篇文章《redis底层数据结构分析》就会知道,在redisDb对象中存在一个expires的字典,用于保存缓存过期的key或者客户端对象。再次看一看这个对象。

typedef struct redisDb {
    dict *dict;                 /* 存储所有的key-value */
    dict *expires;              /* 存储key的过期时间 */
    dict *blocking_keys;        /* blpop存储阻塞key和客户端对象*/
    dict *ready_keys;           /* 阻塞后push,响应阻塞的那些客户端和key */
    dict *watched_keys;         /* 存储watch监控的key和客户端对象 WATCHED keys for MULTI/EXEC CAS */
    int id;                     /* 数据库的ID为0-15,默认redis有16个数据库 */
    long long avg_ttl;          /* 存储对象的额平均ttl(time in live)时间用于统计 */
    unsigned long expires_cursor; /* Cursor of the active expire cycle. */
    list *defrag_later;         /* List of key names to attempt to defrag one by one, gradually. */
    clusterSlotToKeyMapping *slots_to_keys; /* Array of slots to keys. Only used in cluster mode (db 0). */
} redisDb;

既然存储了过期key的过期时间这些数据,那么我们过期的key怎么处理呢?

1.4、redis的数据删除策略

redis的删除策略有定时,惰性,主动删除三种方式。默认采用的是惰性+主动的组合删除方式。

1.4.1、定时删除

在设置键和过期时间时,同时创建一个定时器,不断的扫描哪些key过期了,立即执行山粗操作。

需要创建定时器,定时器的扫描频率越快,消耗的CPU就越严重,一般不会这样使用。

1.4.2、惰性删除

平时不删除key, 只有当访问key时,发现key已经过期了,那么就删除它吧。

就是调用的expireIfNeeded方法:读取数据之前检查一下它有没有失效,如果失效了就删除它。

int expireIfNeeded(redisDb *db, robj *key, int force_delete_expired) {
    // 如果没有失效,返回0
    if (!keyIsExpired(db,key)) return 0;
    if (server.masterhost != NULL) {
        if (server.current_client == server.master) return 0;
        if (!force_delete_expired) return 1;
    }

    if (checkClientPauseTimeoutAndReturnIfPaused()) return 1;

    // 失效了 删除这个key
    deleteExpiredKeyAndPropagate(db,key);
    return 1;
}

如何判断失效

int keyIsExpired(redisDb *db, robj *key) {
    // 获取key的失效时间
    mstime_t when = getExpire(db,key);
    // 当前时间
    mstime_t now;

    // 失效时间小于0 表示默认值-1 不过期 返回没有过期
    if (when < 0) return 0; /* No expire for this key */

    // 如果服务正在加载 返回未过期
    if (server.loading) return 0;
    
    // 获取当前时间
    if (server.script_caller) {
        now = scriptTimeSnapshot();
    }
    else if (server.fixed_time_expire > 0) {
        now = server.mstime;
    }
    else {
        now = mstime();
    }

    // 当前时间大于过期时间,表示没有过期 否则就时过期了
    return now > when;
}

1.4.3、主动删除

在redis.conf文件中可以配置主动删除策略, 默认是no-enviction(不删除)

使用命令查看策略

127.0.0.1:6379> config get maxmemory-policy
1) "maxmemory-policy"
2) "noeviction"

普通删除算法LRU

LRU (Least recently used) 最近最少使用,算法根据数据的历史访问记录来进行淘汰数据,其核心思想是“如果数据最近被访问过,那么将来被访问的几率也更高”。

最常见的实现是使用一个链表保存缓存数据,详细算法实现如下:

1. 新数据插入到链表头部;
2. 每当缓存命中(即缓存数据被访问),则将数据移到链表头部;
3. 当链表满的时候,将链表尾部的数据丢弃。
4. 在Java中可以使用LinkHashMap(哈希链表)去实现LRU

举个例子帮助理解LRU算法

比如我们使用hash链表来存储用户信息,目前缓存了3个用户,这三个用户按照创建时间依次加入链表

此时,业务方访问用户004,哈希链表中不存在,从数据库取出,插入到缓存,此时用004处于链表最右端,最左端是最近最少访问的用户001。

接下来,业务方访问用户003,哈希链表中存在用户003的数据,此时把用户003从它的前驱

节点和后继节点之间移除,重新插入到链表最右端。

这时候,链表中最右端变成了最新访问到的用户003,最左端仍然是最近最少访问的用户1。

也就是说,我们访问谁,谁就会在右边来,越是不访问谁,谁就在左边。

如果我们数据满了,不能再存储了,此时又来了数据,那么是不是应该删除最近最少使用的用户001呢?

答案是yes

Redis中的删除策略

LRU

从 struct redisObject 中可以发现,每一个 redis 对象都会设置相应的 lru。可以想象的是,每一

次访问数据的时候,会更新 redisObject.lru。

LRU 数据淘汰机制如下:

  • 在数据集中随机挑选几个键值对,取出其中 lru 最大的键值对淘汰。
  • 不可能遍历所有的key 用当前时间-最近访问越大说明访问间隔时间越长
# 从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰
volatile-lru
# 从数据集(server.db[i].dict)中挑选最近最少使用的数据淘汰
allkeys-lru

LFU

LFU (Least frequently used) 最不经常使用,如果一个数据在最近一段时间内使用次数很少,那么在将来一段时间内被使用的可能性也很小。

volatile-lfu
allkeys-lfu

random随机

# 从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰
volatile-random
# 从数据集(server.db[i].dict)中任意选择数据淘汰
allkeys-random

ttl

TTL 数据淘汰机制:从过期时间的表中随机挑选几个键值对,取出其中 ttl 最小的键值对淘汰。

# 从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰
volatile-ttl

noenviction

禁止驱逐数据,不删除默认

1.5、如何选择缓存淘汰机制?

1.5.1、不确定业务

allkeys-lru 所有的key都使用LRU最近最少使用算法淘汰

volatile-lru 比allkeys-lru性能差,会存储过期时间

1.5.2、符合平均的分布

allkeys-random 随机淘汰策略,每个元素淘汰的概率都是一样的

1.5.3、自己控制

volatile-ttl 自己在程序中设置过期时间来处理。存在缓存穿透,缓存击穿等问题需要自己处理。

1.6、小结

Redis的淘汰策略已经需要我们根据不同的业务场景去设置,以达到更加合适的效果。

2、相关文章

本人还写了Redis的其他相关文章,有兴趣的可以点击查看!

相关推荐

【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库

如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...

Pure Storage推出统一数据管理云平台及新闪存阵列

PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...

对Java学习的10条建议(对java课程的建议)

不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...

SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!

官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...

JDK21有没有什么稳定、简单又强势的特性?

佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...

「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了

在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...

Java面试题及答案最全总结(2025版)

大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...

数据库日常运维工作内容(数据库日常运维 工作内容)

#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...

分布式之系统底层原理(上)(底层分布式技术)

作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...

oracle 死锁了怎么办?kill 进程 直接上干货

1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...

SpringBoot 各种分页查询方式详解(全网最全)

一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...

《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略

《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...

LoadRunner(loadrunner录制不到脚本)

一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...

Redis数据类型介绍(redis 数据类型)

介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...

RMAN备份监控及优化总结(rman备份原理)

今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...

取消回复欢迎 发表评论: