百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

性能测试能力提升-长连接、短连接、连接池

mhr18 2024-11-10 09:48 27 浏览 0 评论

一、背景

接着上一篇的知识:性能测试能力提升-基准、负载、压力、容量测试,本篇文章,我们将主要介绍以下几方面的知识:

  • 长连接、短连接
  • 连接池的作用
  • 连接池的配置优化
  • Redis连接池补充知识

二、长连接、短连接

长连接请求模式:客户端连接–创建socket认证连接–维护连接–数据传输–维护连接–数据传输…-关闭连接,简单来说,就是建立一次连接可以长期反复使用。

短连接请求模式:客户端连接–创建socket认证连接–维护连接–数据传输–关闭连接,简单来说,就是每次请求都重新建立一次连接,每次请求完就关闭掉这次连接。

补充知识
mysql、redis、dubbo通常建议都是使用长连接,通过连接池的方式复用连接。

互联网高并发场景下, 如果是短连接,那需要频繁建立和删除大量的连接,会造成、资源浪费:

  • 大量的连接握手验证解析的时间=性能问题
  • 大量的连接资源申请、分配内存、清理=性能问题

三、连接池的作用

长连接想要达到建立一次连接可以长期反复使用的目的,必然需要有一个地方来分配管理连接,不然很多请求过来使用连接的时候就乱套了。因此连接池的作用就出来了,主要体现在以下几方面:

  • 负责分配、管理和释放连接
  • 允许应用程序重复使用一个现有的连接,而不是重新建立一个
  • 释放空闲时间超过最大空闲时间的连接,减少资源浪费

四、连接池配置定义


最小空闲连接数(minIdle)

  • 连接池在初始化时创建一定数量的连接放到连接池中。
  • 无论这些连接是否被使用,连接池都将一直保证至少拥有这么多的连接数量。
  • 系统启动时就创建,也叫连接池预热,避免系统启动时,突然爆发大量请求导致短时间内需要创建大量连接,影响性能。
  • 如果设置过大,而应用程序对连接的使用量不大,那将会造成连接资源被浪费掉。

最大空闲连接数(maxIdle)

  • 连接池中允许存在的最大空闲连接数。
  • 比如 minIdle = 10 ;maxIdle = 20 ;maxtotal =40。随着并发量逐渐增加,连接数量逐渐变大,但不会超过40,一段时间后,并发量下降,由于默认取maxIdle配置的连接数量20,所以超出20的连接会被释放,池中稳定存在20个连接。

最大连接数(maxtotal)

  • 限定了这个连接池能占有的最大连接数。
  • 当应用程序向连接池请求的连接数超过最大连接数量时,这些请求将被加入到等待队列中。

testOnBorrow
建议配置为false。获取连接时执行validationQuery检测连接是否有效,这个配置会降低性能。

testOnReturn
建议配置为false。归还连接时执行validationQuery检测连接是否有效,这个配置会降低性能。

testWhileIdle
建议配置为true。作用跟testOnBorrow是差不多的,当应用向连接池申请连接时,判断这条连接是否是可用的。验证不通过则会直接关闭连接,并重新从连接池获取下一条连接。对性能影响很小,因为是定期检查。

总结:testOnBorrow和testOnReturn在生产环境一般是不开启的,主要是性能考虑,因为如果每次获取或者归还连接时候都要到数据库验证连接有效性,这在高并发的时候会造成性能下降。失效连接主要通过testWhileIdle保证,如果获取到了不可用的数据库连接,一般由应用处理异常。

五、连接池设置考虑的因素

最小空闲连接数是连接池一直保持的连接,所以如果应用程序对连接的使用量不大,将会有大量的连接资源被浪费

最大连接数是连接池能申请的最大连接数,如果连接请求超过此数,后面的连接请求将被加入到等待队列中,这会影响之后的操作

如果最小空闲连接数与最大连接数相差太大,那么最先的连接请求将会获利,之后超过最小连接数量的连接请求等价于建立一个新的连接。最后,这些大于最大空闲连接数的连接在使用完不会马上被释放,它将被放到连接池中等待重复使用或是空闲超时后被释放。

因此根据系统应用的实际情况,设置合理的最小空闲连接数、最大空闲连接数、最大连接数,将会一定程度上提升性能。设置连接池的大小肯定不是越大越好,需要考虑的是当前服务所在应用服务器的性能,网络状况,数据库服务器性能,数据库特性等等。你可以设置一个基础值,然后在实际的性能测试过程中,通过微调,来寻找最合适的连接数。

六、Redis连接池补充知识

对于maxtotal优化要考虑的因素:

  • 业务希望的并发量(QPS)
  • 命令执行时间
  • 小于redis允许的最大连接数(默认10000,可修改)

maxIdle和maxtotal计算:
假如:业务希望的QPS(每秒并发量)是50000。通过压测工具测得一次命令执行(拿连接+执行命令+归还连接)平均耗时为1ms,算得一个连接的QPS(每秒并发量)是1000;

结论:那么理论上需要的资源池大小是50000 / 1000 = 50个=maxIdle的值,避免连接池伸缩带来的性能干扰。maxTotal可以比理论值大一些,为redis预留一些资源,比如80个;

秒杀场景下redis性能提升策略:
多商品秒杀场景下:可以加redis服务器。如果是大促场景下,有很多商品待抢购,由于不同的商品id通过槽位分布在不同的redis集群节点上,可以通过增加redis服务器来分散槽位分配,实现高可用的redis架构。

单商品秒杀场景下:增加redis服务器已无法起到优化作用,因为一个商品只能被分配到某一个redis集群节点中,秒杀这个商品会对当前redis节点产生较大压力!可以使用分段库存锁的思路来解决!比如要秒杀id为001号商品,库存有1000个,可以把001拆分成001-1、001-2、001-3 … 001-10共拆分成10个小id来表示001号商品,每一个小id存储100库存,通过分段锁把单商品抢购优化为多商品抢购。

=================================

以上就是本篇文章的全部内容,下一篇文章,我们将主要介绍JVM GC的相关知识。

如果对你有帮助:
欢迎搜索关注我的微信公众号:
程序员杨叔,获取更多测试开发技术资料,每周最新文章也是第一时间在上面发布,你的支持就是作者更新最大的动力!

相关推荐

Java培训机构,你选对了吗?(java培训机构官网)

如今IT行业发展迅速,不仅是大学生,甚至有些在职的员工都想学习java开发,需求量的扩大,薪资必定增长,这也是更多人选择java开发的主要原因。不过对于没有基础的学员来说,java技术不是一两天就能...

产品经理MacBook软件清单-20个实用软件

三年前开始使用MacBookPro,从此再也不想用Windows电脑了,作为生产工具,MacBook可以说是非常胜任。作为产品经理,值得拥有一台MacBook。MacBook是工作平台,要发挥更大作...

RAD Studio(Delphi) 本月隆重推出新的版本12.3

#在头条记录我的2025#自2024年9月,推出Delphi12.2版本后,本月隆重推出新的版本12.3,RADStudio12.3,包含了Delphi12.3和C++builder12.3最...

图解Java垃圾回收机制,写得非常好

什么是自动垃圾回收?自动垃圾回收是一种在堆内存中找出哪些对象在被使用,还有哪些对象没被使用,并且将后者删掉的机制。所谓使用中的对象(已引用对象),指的是程序中有指针指向的对象;而未使用中的对象(未引用...

Centos7 初始化硬盘分区、挂载(针对2T以上)添加磁盘到卷

1、通过命令fdisk-l查看硬盘信息:#fdisk-l,发现硬盘为/dev/sdb大小4T。2、如果此硬盘以前有过分区,则先对磁盘格式化。命令:mkfs.文件系统格式-f/dev/sdb...

半虚拟化如何提高服务器性能(虚拟化 半虚拟化)

半虚拟化是一种重新编译客户机操作系统(OS)将其安装在虚拟机(VM)上的一种虚拟化类型,并在主机操作系统(OS)运行的管理程序上运行。与传统的完全虚拟化相比,半虚拟化可以减少开销,并提高系统性能。虚...

HashMap底层实现原理以及线程安全实现

HashMap底层实现原理数据结构:HashMap的底层实现原理主要依赖于数组+链表+红黑树的结构。1、数组:HashMap最底层是一个数组,称为table,它存放着键值对。2、链...

long和double类型操作的非原子性探究

前言“深入java虚拟机”中提到,int等不大于32位的基本类型的操作都是原子操作,但是某些jvm对long和double类型的操作并不是原子操作,这样就会造成错误数据的出现。其实这里的某些jvm是指...

数据库DELETE 语句,还保存原有的磁盘空间

MySQL和Oracle的DELETE语句与数据存储MySQL的DELETE操作当你在MySQL中执行DELETE语句时:逻辑删除:数据从表中标记为删除,不再可见于查询结果物理...

线程池—ThreadPoolExecutor详解(线程池实战)

一、ThreadPoolExecutor简介在juc-executors框架概述的章节中,我们已经简要介绍过ThreadPoolExecutor了,通过Executors工厂,用户可以创建自己需要的执...

navicat如何使用orcale(详细步骤)

前言:看过我昨天文章的同鞋都知道最近接手另一个国企项目,数据库用的是orcale。实话实说,也有快三年没用过orcale数据库了。这期间问题不断,因为orcale日渐消沉,网上资料也是真真假假,难辨虚...

你的程序是不是慢吞吞?GraalVM来帮你飞起来性能提升秘籍大公开

各位IT圈内外的朋友们,大家好!我是你们的老朋友,头条上的IT技术博主。不知道你们有没有这样的经历:打开一个软件,半天没反应;点开一个网站,图片刷不出来;或者玩个游戏,卡顿得想砸电脑?是不是特别上火?...

大数据正当时,理解这几个术语很重要

目前,大数据的流行程度远超于我们的想象,无论是在云计算、物联网还是在人工智能领域都离不开大数据的支撑。那么大数据领域里有哪些基本概念或技术术语呢?今天我们就来聊聊那些避不开的大数据技术术语,梳理并...

秒懂列式数据库和行式数据库(列式数据库的特点)

行式数据库(Row-Based)数据按行存储,常见的行式数据库有Mysql,DB2,Oracle,Sql-server等;列数据库(Column-Based)数据存储方式按列存储,常见的列数据库有Hb...

AMD发布ROCm 6.4更新:带来了多项底层改进,但仍不支持RDNA 4

AMD宣布,对ROCm软件栈进行了更新,推出了新的迭代版本ROCm6.4。这一新版本里,AMD带来了多项底层改进,包括更新改进了ROCm的用户空间库和AMDKFD内核驱动程序之间的兼容性,使其更容易...

取消回复欢迎 发表评论: