Redis 并发限流控制(redis实现限流)
mhr18 2024-10-25 12:38 38 浏览 0 评论
令牌桶概念
令牌桶是一种用于控制请求速率的算法。它可以限制在特定时间内可以提交的请求数量,以避免超过系统的处理能力。令牌桶算法基于一个抽象的“令牌桶”,该桶中可以存放一定数量的令牌。在每个时间单位内,新的令牌会按一定的速率添加到桶中。如果一个请求需要处理,就需要从桶中消耗一定数量的令牌。如果桶中没有足够的令牌,则请求将被拒绝。令牌桶算法的优点在于它可以根据当前的系统负载动态调整请求的处理速率,并可以控制请求的速率和延迟。
优缺点:
- 可能会导致请求延迟,如果请求速率较高,则桶中的令牌可能会被消耗完,导致新的请求无法被处理。
- 可以避免系统被大量请求涌入而导致的资源耗尽,并可以根据实际情况动态调整请求处理速率。
分析
核心参数:
- 桶的容量:它表示桶中最多能存放多少令牌。
- 令牌添加速率:每个时间单位内(1s)令牌桶中能添加的令牌数量。
- 每个请求需要的令牌数量:表示每个请求需要消耗的令牌数量,一般默认为 1。
其中令牌添加速率的实现方式为:维护一个时间戳,来记录上一次添加令牌的时间,以便在处理请求时计算令牌添加速率。
综上可以进行代码设计:
public class RedisRateLimiterReq {
/**
* 限流唯一性标识
*/
@NotBlank
private String id;
/**
* 令牌添加速率
*/
@Min(1)
private int replenishRate;
/**
* 桶的容量
*/
@Min(0)
private int burstCapacity = 1;
/**
* 每个请求需要的令牌数量
*/
@Min(1)
private int requestedTokens = 1;
}
基于Redis+lua的分布式令牌桶限流
redis key 设计:
- Key[1] :记录桶的剩余容量
- Key[2] :记录桶上次刷新时间,以此推算当前需要填入的令牌数量
- 第一次:需要新填入的令牌数量 = (当前时间 - 0) * 速率
- 其他后:需要新填入的令牌数量 = (当前时间 - Key[2]) * 速率
综上:当前桶内可用令牌数 = 桶的剩余容量 + 需要新填入的令牌数量
参数设计:
- capacity:桶的容量:它表示桶中最多能存放多少令牌。
- rate:令牌添加速率:每个时间单位内(1s)令牌桶中能添加的令牌数量。
- requested:每个请求需要的令牌数量:表示每个请求需要消耗的令牌数量,一般默认为 1。
核心公式:
- fill_time:填充时间:capacity / rate,例如 10/2,即每秒填充 5 个令牌。
- ttl:redis key[1]、key[2] 的过期时间,填充时间*2;为什么是2倍:这样可以保证令牌桶中的令牌能够被充分利用,并避免过早的过期。例如,如果填充时间的值为 10 秒,那么过期时间的值就应该设置为 20 秒。这样,在令牌桶的生存周期内,用户就有足够的时间来使用令牌桶中的令牌。
LUA 脚本
redis.replicate_commands()
-- 记录桶的剩余容量
local tokens_key = KEYS[1]
-- 记录桶上次刷新时间,以此推算当前需要填入的令牌数量
-- 第一次:需要新填入的令牌数量 = (当前时间 - 0) * 速率
-- 其他后:需要新填入的令牌数量 = (当前时间 - Key[2]) * 速率
local timestamp_key = KEYS[2]
-- 综上:**当前桶内可用令牌数 = 桶的剩余容量 + 需要新填入的令牌数量**
redis.log(redis.LOG_WARNING, "tokens_key " .. tokens_key)
local rate = tonumber(ARGV[1])
local capacity = tonumber(ARGV[2])
local now = redis.call('TIME')[1]
local requested = tonumber(ARGV[4])
local fill_time = capacity/rate
-- redis key[1]、key[2] 的过期时间
-- 令牌过期时间:填充时间*2
-- 返回小于参数x的最大整数
-- 这样可以保证令牌桶中的令牌能够被充分利用,并避免过早的过期。
-- 例如,如果填充时间的值为 10 秒,那么过期时间的值就应该设置为 20 秒。这样,在令牌桶的生存周期内,用户就有足够的时间来使用令牌桶中的令牌。
local ttl = math.floor(fill_time*2)
redis.log(redis.LOG_WARNING, "rate " .. ARGV[1])
redis.log(redis.LOG_WARNING, "capacity " .. ARGV[2])
redis.log(redis.LOG_WARNING, "now " .. now)
redis.log(redis.LOG_WARNING, "requested " .. ARGV[4])
redis.log(redis.LOG_WARNING, "filltime " .. fill_time)
redis.log(redis.LOG_WARNING, "ttl " .. ttl)
local last_tokens = tonumber(redis.call("get", tokens_key))
if last_tokens == nil then
last_tokens = capacity
end
redis.log(redis.LOG_WARNING, "last_tokens " .. last_tokens)
local last_refreshed = tonumber(redis.call("get", timestamp_key))
if last_refreshed == nil then
last_refreshed = 0
end
redis.log(redis.LOG_WARNING, "last_refreshed " .. last_refreshed)
local delta = math.max(0, now-last_refreshed)
local filled_tokens = math.min(capacity, last_tokens+(delta*rate))
local allowed = filled_tokens >= requested
local new_tokens = filled_tokens
local allowed_num = 0
if allowed then
new_tokens = filled_tokens - requested
allowed_num = 1
end
--redis.log(redis.LOG_WARNING, "delta " .. delta)
--redis.log(redis.LOG_WARNING, "filled_tokens " .. filled_tokens)
--redis.log(redis.LOG_WARNING, "allowed_num " .. allowed_num)
--redis.log(redis.LOG_WARNING, "new_tokens " .. new_tokens)
if ttl > 0 then
redis.call("setex", tokens_key, ttl, new_tokens)
redis.call("setex", timestamp_key, ttl, now)
end
-- return { allowed_num, new_tokens, capacity, filled_tokens, requested, new_tokens }
return { allowed_num, new_tokens }
redis.replicate_commands() 是 Redis 客户端的一个方法,它用于启用命令复制(command replication)。命令复制是指,在多个 Redis 实例之间复制命令,以保证数据的一致性。
例如,如果你在一个 Redis 集群中执行了一条写入命令,那么这条命令就会被复制到集群中的其他实例中。这样,就可以保证集群中的所有实例都保存了相同的数据,并且可以提供高可用性和数据安全性。
相关推荐
- 【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库
-
如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...
- Pure Storage推出统一数据管理云平台及新闪存阵列
-
PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...
- 对Java学习的10条建议(对java课程的建议)
-
不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...
- SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!
-
官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...
- JDK21有没有什么稳定、简单又强势的特性?
-
佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...
- 「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了
-
在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...
- Java面试题及答案最全总结(2025版)
-
大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...
- 数据库日常运维工作内容(数据库日常运维 工作内容)
-
#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...
- 分布式之系统底层原理(上)(底层分布式技术)
-
作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...
- oracle 死锁了怎么办?kill 进程 直接上干货
-
1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...
- SpringBoot 各种分页查询方式详解(全网最全)
-
一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...
- 《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略
-
《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...
- LoadRunner(loadrunner录制不到脚本)
-
一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...
- Redis数据类型介绍(redis 数据类型)
-
介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...
- RMAN备份监控及优化总结(rman备份原理)
-
今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)