Nginx/Redis Lua实现分布式计数器限流
mhr18 2024-11-07 11:05 44 浏览 0 评论
如果有这么一个场景:实现控制单IP在10秒内(一定时间周期内)只能访问10次(一定次数)的限流功能,该如何来实现?下面介绍两种实现方式
实现一:Nginx Lua实现分布式计数器限流
- 使用Redis存储分布式访问计数;
- Nginx Lua编程完成计数器累加及逻辑判断
首先,在Nginx的配置文件中添加location配置块,拦截需要限流的接口,匹配到该请求后,将其转给一个Lua脚本处理。
location = /access/demo/nginx/lua {
set $count 0;
access_by_lua_file luaScript/module/ratelimit/access_auth_nginx.lua;
content_by_lua_block {
ngx.say("目前访问总数: ", ngx.var.count, "<br>");
ngx.say("Hello World");
}
}
定义access_auth_nginx.lua限流脚本,该脚本会调用一个名为RedisKeyRateLimit.lua的限流计数器脚本,完成针对同一个IP的限流操作。
RedisKeyRateLimit限流计数器脚本代码如下:
---
--- Generated by EmmyLua(https://github.com/EmmyLua)
--- Created by xx.
--- DateTime: 2022/2/21 下午8:27
---
local basic = require("luaScript.module.common.basic");
local redisOp = require("luaScript.redis.RedisOperator");
--一个统一的模块对象
local _Module = {}
_Module.__index = _Module;
-- 创建一个新的实例
function _Module.new(self, key)
local object = {red = nil};
setmetatable(object, self);
--创建自定义的Redis操作对象
local red = redisOp:new();
basic.log("参数key = "..key);
red:open();
object.red = red;
--object.key = "count_rate_limit:" .. key;
object.key = key;
return object;
end
-- 判断是否能通过流量控制
-- true:未被限流;false:被限流
function _Module.acquire(self)
local redis = self.red;
basic.log("当前key = "..self.key)
local current = redis:getValue(self.key);
basic.log("value type is "..type(current));
basic.log("当前计数器值 value = "..tostring(current));
--判断是否大于限制次数
local limited = current and current ~= ngx.null and tonumber(current) > 10;
-- 被限流
if limited then
basic.log("限流成功,已经超过10次了,本次是第"..current.."次");
redis:incrValue(self.key);
return false;
end
if not current or current == ngx.null then
redis:setValue(self.key, 1);
redis:expire(self.key, 10);
else
redis:incrValue(self.key);
end
return true
end
-- 取得访问次数
function _Module.getCount(self)
local current = self.red:getValue(self.key);
if current and current ~= ngx.null then
return tonumber(current);
end
return 0;
end
-- 归还Redis
function _Module.close(self)
self.red:close();
end
return _Module;
access_auth_nginx限流脚本如下:
---
--- Generated by EmmyLua(https://github.com/EmmyLua)
--- Created by xx.
--- DateTime: 2022/2/21 下午8:44
---
-- 导入自定义模块
local basic = require("luaScript.module.common.basic");
local RedisKeyRateLimit = require("luaScript.module.ratelimit.RedisKeyRateLimit");
--定义出错的JSON输出对象
local errorOut = {errorCode = -1, errorMsg = "限流出错", data = {} };
--获取请求参数
local args = nil;
if "GET" == ngx.var.request_method then
args = ngx.req.get_uri_args();
elseif "POST" == ngx.var.request_method then
ngx.req.read_body();
args = ngx.req.get_post_args();
end
--ngx.say(args["a"]);
--ngx.say(ngx.var.remote_addr);
-- 获取用户IP
local shortKey = ngx.var.remote_addr;
if not shortKey or shortKey == ngx.null then
errorOut.errMsg = "shortKey 不能为空";
ngx.say(cjson.encode(errorOut));
return;
end
-- 拼接计数的Redis Key
local key = "count_rate_limit:ip:"..shortKey;
local limiter = RedisKeyRateLimit:new(key);
local pass = limiter:acquire();
if pass then
ngx.var.count = limiter:getCount();
basic.log("access_auth_nginx get count = "..ngx.var.count)
end
limiter:close();
if not pass then
errorOut.errorMsg = "您的操作太频繁了,请稍后再试.";
ngx.say(cjson.encode(errorOut));
ngx.say(ngx.HTTP_UNAUTHORIZED);
end
return;
浏览器访问http://localhost/access/demo/nginx/lua?a=111接口,10秒内多次刷新结果如下:
频繁刷新后的结果
某个时间点Redis中,存入的键-值如下
上述方案,如果是单网关,则不会有一致性问题。在多网关(Nginx集群)环境下,计数器的读取和自增由两次Redis远程操作完成,可能会出现数据一致性问题,且同一次限流需要多次访问Redis,存在多次网络传输,会降低限流的性能。
实现二:Redis Lua实现分布式计数器限流
该方案主要依赖Redis,使用Redis存储分布式访问计数,又通过Redis执行限流计数器的Lua脚本,减少了Redis远程操作次数,相对于Nginx网关,保证只有一次Redis操作即可完成限流操作,而Redis可以保证脚本的原子性。架构图如下:
具体实现:
首先,在Nginx的配置文件中添加location配置块,拦截需要限流的接口,匹配到该请求后,将其转给一个Lua脚本处理
location = /access/demo/redis/lua {
set $count 0;
access_by_lua_file luaScript/module/rateLimit/access_auth_redis.lua;
content_by_lua_block {
ngx.say("目前访问总数: ", ngx.var.count, "<br>");
ngx.say("Hello World");
}
}
再来看限流脚本:redis_rate_limit.lua
-- 限流计数器脚本,负责完成访问计数和限流结果判断。该脚本需要在Redis中加载和执行
-- 返回0表示需要限流,返回其他值表示访问次数
local cacheKey = KEYS[1];
local data = redis.call("incr", cacheKey);
local count = tonumber(data);
-- 首次访问,设置过期时间
if count == 1 then
redis.call("expire", cacheKey, 10);
end
if count > 10 then
return 0; -- 0表示需要限流
end
return count;
限流脚本要执行在Redis中,因此需要将其加载到Redis中,并且获取其加载后的sha1编码,供Nginx上的限流脚本access_auth_redis.lua使用。
将redis_rate_limit.lua脚本加载到Redis的命令如下:
# 进入到当前脚本目录
? rateLimit git:(main) ? cd ~/Work/QDBank/Idea-WorkSpace/About_Lua/src/luaScript/module/rateLimit
# 加载Lua脚本
? rateLimit git:(main) ? ~/Software/redis-6.2.6/src/redis-cli script load "$(cat redis_rate_limit.lua)"
"5f383977029cd430bd4c98547f3763c9684695c7"
? rateLimit git:(main) ?
最后看下access_auth_redis.lua脚本。该脚本使用Redis的evalsha操作指令,远程访问加载在Redis中的redis_rate_limit.lua脚本,完成针对同一个IP的限流。
---
--- Generated by EmmyLua(https://github.com/EmmyLua)
--- Created by xuexiao.
--- DateTime: 2022/2/22 下午10:15
---
local RedisKeyRateLimit = require("luaScript.module.rateLimit.RedisKeyRateLimit")
--定义出错的JSON输出对象
local errorOut = {errorCode = -1, errorMsg = "限流出错", data = {} };
--获取请求参数
local args = nil;
if "GET" == ngx.var.request_method then
args = ngx.req.get_uri_args();
elseif "POST" == ngx.var.request_method then
ngx.req.read_body();
args = ngx.req.get_post_args();
end
-- 获取用户IP
local shortKey = ngx.var.remote_addr;
if not shortKey or shortKey == ngx.null then
errorOut.errMsg = "shortKey 不能为空";
ngx.say(cjson.encode(errorOut));
return;
end
-- 拼接计数的Redis key
local key = "redis_count_rate_limit:ip:"..shortKey;
local limiter = RedisKeyRateLimit:new(key);
local passed = limiter:acquire();
-- 通过流量控制
if passed then
ngx.var.count = limiter:getCount()
end
limiter:close();
-- 未通过流量控制
if not passed then
errorOut.errorMsg = "您的操作太频繁了,请稍后再试.";
ngx.say(cjson.encode(errorOut));
ngx.exit(ngx.HTTP_UNAUTHORIZED);
end
return;
浏览器中访问http://localhost/access/demo/redis/lua?a=999,限流效果同案例一。
通过将Lua脚本加入Redis执行有以下优势:
- 减少网络开销:只需要一个脚本即可,不需要多次远程访问Redis;
- 原子操作:Redis将整个脚本作为一个原子执行,无须担心并发,也不用考虑事务;
- 复用:只要Redis不重启,脚本加载之后会一直缓存在Redis中,其他客户端可以通过sha1编码执行。
相关推荐
- 【预警通报】关于WebLogic存在远程代码执行高危漏洞的预警通报
-
近日,Oracle官方发布了2021年1月关键补丁更新公告CPU(CriticalPatchUpdate),共修复了包括CVE-2021-2109(WeblogicServer远程代码执行漏洞)...
- 医院信息系统突发应急演练记录(医院信息化应急演练)
-
信息系统突发事件应急预案演练记录演练内容信息系统突发事件应急预案演练参与人员信息科参与科室:全院各部门日期xxxx-xx-xx时间20:00至24:00地点信息科记录:xxx1、...
- 一文掌握怎么利用Shell+Python实现完美版的多数据源备份程序
-
简介:在当今数字化时代,无论是企业还是个人,数据的安全性和业务的连续性都是至关重要的。数据一旦丢失,可能会造成无法估量的损失。因此,如何有效地对分布在不同位置的数据进行备份,尤其是异地备份,成为了一个...
- docker搭建系统环境(docker搭建centos)
-
Docker安装(CentOS7)1.卸载旧版Docker#检查已安装版本yumlistinstalled|grepdocker#卸载旧版本yumremove-ydocker.x...
- 基础篇:数据库 SQL 入门教程(sql数据库入门书籍推荐)
-
SQL介绍什么是SQLSQL指结构化查询语言,是用于访问和处理数据库的标准的计算机语言。它使我们有能力访问数据库,可与多种数据库程序协同工作,如MSAccess、DB2、Informix、M...
- Java21杀手级新特性!3行代码性能翻倍
-
导语某券商系统用这招,交易延迟从12ms降到0.8ms!本文揭秘Oracle官方未公开的Record模式匹配+虚拟线程深度优化+向量API神操作,代码量直降70%!一、Record模式匹配(代码量↓8...
- 一文读懂JDK21的虚拟线程(java虚拟线程)
-
概述JDK21已于2023年9月19日发布,作为Oracle标准Java实现的一个LTS版本发布,发布了15想新特性,其中虚拟线程呼声较高。虚拟线程是JDK21中引入的一项重要特性,它是一种轻量级的...
- 效率!MacOS下超级好用的Linux虚拟工具:Lima
-
对于MacOS用户来说,搭建Linux虚拟环境一直是件让人头疼的事。无论是VirtualBox还是商业的VMware,都显得过于笨重且配置复杂。今天,我们要介绍一个轻巧方便的纯命令行Linux虚拟工具...
- 所谓SaaS(所谓三维目标一般都应包括)
-
2010年前后,一个科技媒体的主编写一些关于云计算的概念性问题,就可以作为头版头条了。那时候的云计算,更多的还停留在一些概念性的问题上。而基于云计算而生的SaaS更是“养在深闺人未识”,一度成为被IT...
- ORA-00600 「25027」 「x」报错(报错0xc0000001)
-
问题现象:在用到LOB大对象的业务中,进行数据的插入,失败了,在报警文件中报错:ORA-00600:内部错误代码,参数:[25027],[10],[0],[],[],[],[],[...
- 安卓7源码编译(安卓源码编译环境lunch失败,uname命令找不到)
-
前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...
- 编译安卓源码(编译安卓源码 电脑配置)
-
前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...
- 360 Vulcan Team首战告捷 以17.5万美金强势领跑2019“天府杯“
-
2019年11月16日,由360集团、百度、腾讯、阿里巴巴、清华大学与中科院等多家企业和研究机构在成都联合主办了2019“天府杯”国际网络安全大赛暨2019天府国际网络安全高峰论坛。而开幕当日最激荡人...
- Syslog 日志分析与异常检测技巧(syslog发送日志配置)
-
系统日志包含有助于分析网络设备整体运行状况的重要信息。然而,理解并从中提取有效数据往往颇具挑战。本文将详解从基础命令行工具到专业日志管理软件的全流程分析技巧,助你高效挖掘Syslog日志价值。Gr...
- 从Oracle演进看数据库技术的发展(从oracle演进看数据库技术的发展的过程)
-
数据库技术发展本质上是应用需求驱动与基础架构演进的双向奔赴,如何分析其技术发展的脉络和方向?考虑到oracle数据库仍然是这个领域的王者,以其为例,管中窥豹,对其从Oracle8i到23ai版本的核...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle基目录 (50)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (53)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)