系统如何做限流
mhr18 2024-11-27 11:59 25 浏览 0 评论
上篇文章说到要在缓存层之上加个限流，减少流量流入数据库，限制到系统能承受的TPS值（每秒处理的消息数），限流分为技术层面限流和业务层面限流，技术层面的限流可以是限制并发数、资源数、请求数，而业务层面的限流则是针对某些业务场景做的限流，比如黑白名单。
技术层面的限流：Nginx的limit_conn模块限制瞬时并发连接数、Tomcat/Mysql配置最大连接数、最大处理线程数。对于稀缺资源（比如数据库、线程），需要加以限制，因为多个系统都在使用，有时可能是一台数据库服务器要服务多台应用服务器，又或者是在计算密集型的应用中，线程资源数的分配等于CPU核数，所以要用池化技术来限制总资源数。假设分配给每个应用的数据库连接是100，那么最多可以使用100个资源，超出可以等待或抛出异常。
如果只想限制某个接口的请求数，有三种限流方式：
（1）限制接口总并发数
（2）限制某个时间段内的请求数
（3）用令牌桶、漏桶算法，平滑地限流接口请求数
限制接口总并发数，可以用一个静态全局并且原子类型的计数变量，统计每个请求数。超出限流数，提示用户或者对服务降级，下面使用Java中的原子数据类型AtomicLong做限流
限制某个时间段内的请求数，如每秒/每分钟/每天的请求数的请求量，同样用计数法来判断，不过是设置一个有效期的本地缓存来计数。下面使用Guava的Cache来存储计数器
上述方法假如要统计一分钟内的请求量，要把一分钟转化成60秒（60个key）分别计数，然后求总和来判断限流数。以此类推，如果时间窗口大，这种办法是很耗内存的，所以本地缓存计数不可取。改进办法是用Redis的incr命令计数做统一限流，先通过key是否存在有效期，不存在：计数加1，设置缓存过期时间，否则计数加1，往下执行。
假设应用服务器部署了多份，本地限流就变成了分布式限流，需要事先计算好每台机器的限流数。分布式限流相比统一限流的好处是，如果其中一台服务器宕机，限流仍然能正常工作；但用Redis做统一限流，如果宕机，限流就失效。坏处是限流数不好平均判断，有可能负载均衡请求到一台已达到限流阈值的机器，这样会误判并损失部分请求。上面介绍的限流方法都比较简单粗暴，超过限流数时流量马上被切断，但实际应用不需要流量被瞬间切断。好比地铁上的限流，不是说某个时间段内超过乘载人数，就不允许进站了，而是希望减缓人们进站的速度，从而缓冲每个人进站时间，这样每趟地铁能够限流服务人数。对于系统也是如此，不希望损失部分请求，产品体验上不友好。
下篇将继续讲讲用令牌桶、漏桶算法做限流，既能解决流量被瞬间切断的问题，又能平滑地限流接口请求数。平滑的意思是来多少流量都接收，但流入的流量被限制了流入速率。
- 上一篇：服务限流，我有6种实现方式…
- 下一篇：基于kubernetes的分布式限流
相关推荐
- B站收藏视频失效?mybili 收藏夹备份神器完整部署指南
-
本内容来源于@什么值得买APP，观点仅代表作者本人｜作者：羊刀仙很多B站用户都有过类似经历：自己精心收藏的视频突然“消失”，点开一看不是“已被删除”，就是“因UP主设置不可见”。而B站并不会主动通知...
- 中间件推荐初始化配置
-
Redis推荐初始化配置bind0.0.0.0protected-modeyesport6379tcp-backlog511timeout300tcp-keepalive300...
- Redis中缓存穿透问题与解决方法
-
缓存穿透问题概述在Redis作为缓存使用时，缓存穿透是常见问题。正常查询流程是先从Redis缓存获取数据，若有则直接使用；若没有则去数据库查询，查到后存入缓存。但当请求的数据在缓存和数据库中都...
- 后端开发必看!Redis 哨兵机制如何保障系统高可用?
-
你是否曾在项目中遇到过Redis主服务器突然宕机，导致整个业务系统出现数据读取异常、响应延迟甚至服务中断的情况？面对这样的突发状况，作为互联网大厂的后端开发人员，如何快速恢复服务、保障系统的高可用...
- Redis合集-大Key处理建议
-
以下是Redis大Key问题的全流程解决方案，涵盖检测、处理、优化及预防策略，结合代码示例和最佳实践：一、大Key的定义与风险1.大Key判定标准数据类型大Key阈值风险场景S...
- 深入解析跳跃表:Redis里的"老六"数据结构，专治各种不服
-
大家好，我是你们的码农段子手，今天要给大家讲一个Redis世界里最会"跳科目三"的数据结构——跳跃表（SkipList）。这货表面上是个青铜，实际上是个王者，连红黑树见了都要喊声大哥。...
- Redis 中 AOF 持久化技术原理全解析，看完你就懂了!
-
你在使用Redis的过程中，有没有担心过数据丢失的问题？尤其是在服务器突然宕机、意外断电等情况发生时，那些还没来得及持久化的数据，是不是让你夜不能寐？别担心，Redis的AOF持久化技术就是...
- Redis合集-必备的几款运维工具
-
Redis在应用Redis时，经常会面临的运维工作，包括Redis的运行状态监控，数据迁移，主从集群、切片集群的部署和运维。接下来，从这三个方面，介绍一些工具。先来学习下监控Redis实时...
- 别再纠结线程池大小 + 线程数量了，没有固定公式的!
-
我们在百度上能很轻易地搜索到以下线程池设置大小的理论：在一台服务器上我们按照以下设置CPU密集型的程序-核心数+1I/O密集型的程序-核心数*2你不会真的按照这个理论来设置线程池的...
- 网络编程—IO多路复用详解
-
假如你想了解IO多路复用，那本文或许可以帮助你本文的最大目的就是想要把select、epoll在执行过程中干了什么叙述出来，所以具体的代码不会涉及，毕竟不同语言的接口有所区别。基础知识IO多路复用涉及...
- 5分钟学会C/C++多线程编程进程和线程
-
前言对线程有基本的理解简单的C++面向过程编程能力创造单个简单的线程。创造单个带参数的线程。如何等待线程结束。创造多个线程，并使用互斥量来防止资源抢占。会使用之后，直接跳到“汇总”，复制模板来用就行...
- 尽情阅读，技术进阶，详解mmap的原理
-
1.一句话概括mmapmmap的作用，在应用这一层，是让你把文件的某一段，当作内存一样来访问。将文件映射到物理内存，将进程虚拟空间映射到那块内存。这样，进程不仅能像访问内存一样读写文件，多个进程...
- C++11多线程知识点总结
-
一、多线程的基本概念1、进程与线程的区别和联系进程：进程是一个动态的过程，是一个活动的实体。简单来说，一个应用程序的运行就可以被看做是一个进程；线程：是运行中的实际的任务执行者。可以说，进程中包含了多...
- 微服务高可用的2个关键技巧，你一定用得上
-
概述上一篇文章讲了一个朋友公司使用SpringCloud架构遇到问题的一个真实案例，虽然不是什么大的技术问题，但如果对一些东西理解的不深刻，还真会犯一些错误。这篇文章我们来聊聊在微服务架构中，到底如...
- Java线程间如何共享与传递数据
-
1、背景在日常SpringBoot应用或者Java应用开发中，使用多线程编程有很多好处，比如可以同时处理多个任务，提高程序的并发性；可以充分利用计算机的多核处理器，使得程序能够更好地利用计算机的资源，...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)