性能测试能力提升-长连接、短连接、连接池
mhr18 2024-11-10 09:48 27 浏览 0 评论
一、背景
接着上一篇的知识:性能测试能力提升-基准、负载、压力、容量测试,本篇文章,我们将主要介绍以下几方面的知识:
- 长连接、短连接
- 连接池的作用
- 连接池的配置优化
- Redis连接池补充知识
二、长连接、短连接
长连接请求模式:客户端连接–创建socket认证连接–维护连接–数据传输–维护连接–数据传输…-关闭连接,简单来说,就是建立一次连接可以长期反复使用。
短连接请求模式:客户端连接–创建socket认证连接–维护连接–数据传输–关闭连接,简单来说,就是每次请求都重新建立一次连接,每次请求完就关闭掉这次连接。
补充知识:
mysql、redis、dubbo通常建议都是使用长连接,通过连接池的方式复用连接。
互联网高并发场景下, 如果是短连接,那需要频繁建立和删除大量的连接,会造成、资源浪费:
- 大量的连接握手验证解析的时间=性能问题
- 大量的连接资源申请、分配内存、清理=性能问题
三、连接池的作用
长连接想要达到建立一次连接可以长期反复使用的目的,必然需要有一个地方来分配管理连接,不然很多请求过来使用连接的时候就乱套了。因此连接池的作用就出来了,主要体现在以下几方面:
- 负责分配、管理和释放连接
- 允许应用程序重复使用一个现有的连接,而不是重新建立一个
- 释放空闲时间超过最大空闲时间的连接,减少资源浪费
四、连接池配置定义
最小空闲连接数(minIdle)
- 连接池在初始化时创建一定数量的连接放到连接池中。
- 无论这些连接是否被使用,连接池都将一直保证至少拥有这么多的连接数量。
- 系统启动时就创建,也叫连接池预热,避免系统启动时,突然爆发大量请求导致短时间内需要创建大量连接,影响性能。
- 如果设置过大,而应用程序对连接的使用量不大,那将会造成连接资源被浪费掉。
最大空闲连接数(maxIdle)
- 连接池中允许存在的最大空闲连接数。
- 比如 minIdle = 10 ;maxIdle = 20 ;maxtotal =40。随着并发量逐渐增加,连接数量逐渐变大,但不会超过40,一段时间后,并发量下降,由于默认取maxIdle配置的连接数量20,所以超出20的连接会被释放,池中稳定存在20个连接。
最大连接数(maxtotal)
- 限定了这个连接池能占有的最大连接数。
- 当应用程序向连接池请求的连接数超过最大连接数量时,这些请求将被加入到等待队列中。
testOnBorrow
建议配置为false。获取连接时执行validationQuery检测连接是否有效,这个配置会降低性能。
testOnReturn
建议配置为false。归还连接时执行validationQuery检测连接是否有效,这个配置会降低性能。
testWhileIdle
建议配置为true。作用跟testOnBorrow是差不多的,当应用向连接池申请连接时,判断这条连接是否是可用的。验证不通过则会直接关闭连接,并重新从连接池获取下一条连接。对性能影响很小,因为是定期检查。
总结:testOnBorrow和testOnReturn在生产环境一般是不开启的,主要是性能考虑,因为如果每次获取或者归还连接时候都要到数据库验证连接有效性,这在高并发的时候会造成性能下降。失效连接主要通过testWhileIdle保证,如果获取到了不可用的数据库连接,一般由应用处理异常。
五、连接池设置考虑的因素
最小空闲连接数是连接池一直保持的连接,所以如果应用程序对连接的使用量不大,将会有大量的连接资源被浪费
最大连接数是连接池能申请的最大连接数,如果连接请求超过此数,后面的连接请求将被加入到等待队列中,这会影响之后的操作
如果最小空闲连接数与最大连接数相差太大,那么最先的连接请求将会获利,之后超过最小连接数量的连接请求等价于建立一个新的连接。最后,这些大于最大空闲连接数的连接在使用完不会马上被释放,它将被放到连接池中等待重复使用或是空闲超时后被释放。
因此根据系统应用的实际情况,设置合理的最小空闲连接数、最大空闲连接数、最大连接数,将会一定程度上提升性能。设置连接池的大小肯定不是越大越好,需要考虑的是当前服务所在应用服务器的性能,网络状况,数据库服务器性能,数据库特性等等。你可以设置一个基础值,然后在实际的性能测试过程中,通过微调,来寻找最合适的连接数。
六、Redis连接池补充知识
对于maxtotal优化要考虑的因素:
- 业务希望的并发量(QPS)
- 命令执行时间
- 小于redis允许的最大连接数(默认10000,可修改)
maxIdle和maxtotal计算:
假如:业务希望的QPS(每秒并发量)是50000。通过压测工具测得一次命令执行(拿连接+执行命令+归还连接)平均耗时为1ms,算得一个连接的QPS(每秒并发量)是1000;
结论:那么理论上需要的资源池大小是50000 / 1000 = 50个=maxIdle的值,避免连接池伸缩带来的性能干扰。maxTotal可以比理论值大一些,为redis预留一些资源,比如80个;
秒杀场景下redis性能提升策略:
多商品秒杀场景下:可以加redis服务器。如果是大促场景下,有很多商品待抢购,由于不同的商品id通过槽位分布在不同的redis集群节点上,可以通过增加redis服务器来分散槽位分配,实现高可用的redis架构。
单商品秒杀场景下:增加redis服务器已无法起到优化作用,因为一个商品只能被分配到某一个redis集群节点中,秒杀这个商品会对当前redis节点产生较大压力!可以使用分段库存锁的思路来解决!比如要秒杀id为001号商品,库存有1000个,可以把001拆分成001-1、001-2、001-3 … 001-10共拆分成10个小id来表示001号商品,每一个小id存储100库存,通过分段锁把单商品抢购优化为多商品抢购。
=================================
以上就是本篇文章的全部内容,下一篇文章,我们将主要介绍JVM GC的相关知识。
如果对你有帮助:
欢迎搜索关注我的微信公众号:程序员杨叔,获取更多测试开发技术资料,每周最新文章也是第一时间在上面发布,你的支持就是作者更新最大的动力!
相关推荐
- Java培训机构,你选对了吗?(java培训机构官网)
-
如今IT行业发展迅速,不仅是大学生,甚至有些在职的员工都想学习java开发,需求量的扩大,薪资必定增长,这也是更多人选择java开发的主要原因。不过对于没有基础的学员来说,java技术不是一两天就能...
- 产品经理MacBook软件清单-20个实用软件
-
三年前开始使用MacBookPro,从此再也不想用Windows电脑了,作为生产工具,MacBook可以说是非常胜任。作为产品经理,值得拥有一台MacBook。MacBook是工作平台,要发挥更大作...
- RAD Studio(Delphi) 本月隆重推出新的版本12.3
-
#在头条记录我的2025#自2024年9月,推出Delphi12.2版本后,本月隆重推出新的版本12.3,RADStudio12.3,包含了Delphi12.3和C++builder12.3最...
- 图解Java垃圾回收机制,写得非常好
-
什么是自动垃圾回收?自动垃圾回收是一种在堆内存中找出哪些对象在被使用,还有哪些对象没被使用,并且将后者删掉的机制。所谓使用中的对象(已引用对象),指的是程序中有指针指向的对象;而未使用中的对象(未引用...
- Centos7 初始化硬盘分区、挂载(针对2T以上)添加磁盘到卷
-
1、通过命令fdisk-l查看硬盘信息:#fdisk-l,发现硬盘为/dev/sdb大小4T。2、如果此硬盘以前有过分区,则先对磁盘格式化。命令:mkfs.文件系统格式-f/dev/sdb...
- 半虚拟化如何提高服务器性能(虚拟化 半虚拟化)
-
半虚拟化是一种重新编译客户机操作系统(OS)将其安装在虚拟机(VM)上的一种虚拟化类型,并在主机操作系统(OS)运行的管理程序上运行。与传统的完全虚拟化相比,半虚拟化可以减少开销,并提高系统性能。虚...
- HashMap底层实现原理以及线程安全实现
-
HashMap底层实现原理数据结构:HashMap的底层实现原理主要依赖于数组+链表+红黑树的结构。1、数组:HashMap最底层是一个数组,称为table,它存放着键值对。2、链...
- long和double类型操作的非原子性探究
-
前言“深入java虚拟机”中提到,int等不大于32位的基本类型的操作都是原子操作,但是某些jvm对long和double类型的操作并不是原子操作,这样就会造成错误数据的出现。其实这里的某些jvm是指...
- 数据库DELETE 语句,还保存原有的磁盘空间
-
MySQL和Oracle的DELETE语句与数据存储MySQL的DELETE操作当你在MySQL中执行DELETE语句时:逻辑删除:数据从表中标记为删除,不再可见于查询结果物理...
- 线程池—ThreadPoolExecutor详解(线程池实战)
-
一、ThreadPoolExecutor简介在juc-executors框架概述的章节中,我们已经简要介绍过ThreadPoolExecutor了,通过Executors工厂,用户可以创建自己需要的执...
- navicat如何使用orcale(详细步骤)
-
前言:看过我昨天文章的同鞋都知道最近接手另一个国企项目,数据库用的是orcale。实话实说,也有快三年没用过orcale数据库了。这期间问题不断,因为orcale日渐消沉,网上资料也是真真假假,难辨虚...
- 你的程序是不是慢吞吞?GraalVM来帮你飞起来性能提升秘籍大公开
-
各位IT圈内外的朋友们,大家好!我是你们的老朋友,头条上的IT技术博主。不知道你们有没有这样的经历:打开一个软件,半天没反应;点开一个网站,图片刷不出来;或者玩个游戏,卡顿得想砸电脑?是不是特别上火?...
- 大数据正当时,理解这几个术语很重要
-
目前,大数据的流行程度远超于我们的想象,无论是在云计算、物联网还是在人工智能领域都离不开大数据的支撑。那么大数据领域里有哪些基本概念或技术术语呢?今天我们就来聊聊那些避不开的大数据技术术语,梳理并...
- 秒懂列式数据库和行式数据库(列式数据库的特点)
-
行式数据库(Row-Based)数据按行存储,常见的行式数据库有Mysql,DB2,Oracle,Sql-server等;列数据库(Column-Based)数据存储方式按列存储,常见的列数据库有Hb...
- AMD发布ROCm 6.4更新:带来了多项底层改进,但仍不支持RDNA 4
-
AMD宣布,对ROCm软件栈进行了更新,推出了新的迭代版本ROCm6.4。这一新版本里,AMD带来了多项底层改进,包括更新改进了ROCm的用户空间库和AMDKFD内核驱动程序之间的兼容性,使其更容易...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (59)
- oracle 空为0 (51)
- oracle主从同步 (56)
- oracle 乐观锁 (53)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)