数据库连接池优化(数据库连接池优化原理)
mhr18 2025-02-03 14:08 24 浏览 0 评论
目录
- 一、数据库瓶颈解决方案
- 二、连接数调优
- 三、连接池参数优化(一)压测(二)参数调整
回到顶部
一、数据库瓶颈解决方案
在大流量时,数据库会成为系统瓶颈,其总体的解决方案如下:
1、项目架构使用缓存,90%请求拦截上游服务器 ———— 读操作
2、数据归档处理 (把一些用户不访问的数据直接归档处理,缓解数据库压力)--使用master ,slave架构
3、停机扩容
影响数据库性能因数:
1、服务器硬件
2、操作系统
3、存储引擎
4、数据库表结构(冗余设计)
5、SQL 语句
6、磁盘 IO
7、网卡流量
8、慢查询
总结来看:
1、低效 SQL 语句
2、并发 cpu 的问题(SQL 并不支持多核心 cpu 并发模式执行,一个 SQL 语句只能在一个 cpu 进行执行)
3、连接数: max-connections
4、大表(数据多,字段多)
5、大事务
6、超高 cpu 使用率
其中大表、大事务、低效SQL都是属于项目设计和开发时需要注意的,而连接数是需要进行提前设置好的。
回到顶部
二、连接数调优
首先从数据库连接池选型上,目前比较主流的有HikariCP 和阿里的Druid,HikariCP读性能很好,但是写性能一般,阿里的Druid就比较均衡,无论读写都很好,因此使用了阿里的Druid。
相关的配置项如下所示,都加了注释。
spring:
application:
name: sugo-seckill-web
datasource:
#url: jdbc:mysql://127.0.0.1:3306/shop?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=true
url: jdbc:mysql://172.20.10.14:3306/shop?useUnicode=true&characterEncoding=utf8&autoReconnect=true&allowMultiQueries=true&connectionTimeout=3000&socketTimeout=1200
username: root
password: root
driver-class-name: com.mysql.jdbc.Driver
druid:
#初始化线程数
initial-size: 1
# 最小线程数
min-idle: 5
# 最大线程数
max-active: 10
# 获取连接最大等待时间
max-wait: 1200
# 销毁线程的间隔时间
time-between-eviction-runs-millis: 600000
# 配置一个连接在池中最大空闲时间,单位是毫秒
min-evictable-idle-time-millis: 300000
# 设置从连接池获取连接时是否检查连接有效性,true时,每次都检查;false时,不检查
test-on-borrow: true
#设置往连接池归还连接时是否检查连接有效性,true时,每次都检查;false时,不检查
test-on-return: true
# 设置从连接池获取连接时是否检查连接有效性,true时,如果连接空闲时间超过minEvictableIdleTimeMillis进行检查,否则不检查;false时,不检查
test-while-idle: true
# 检验连接是否有效的查询语句。如果数据库Driver支持ping()方法,则优先使用ping()方法进行检查,否则使用validationQuery查询进行检查。(Oracle jdbc Driver目前不支持ping方法)
validation-query: select 1 from dual
# 是否长链接
keep-alive: true
# 是否删除异常连接
remove-abandoned: true
# 异常连接的判断条件(80毫秒没有使用的连接,防止线程阻塞)
remove-abandoned-timeout: 80
log-abandoned: true
#打开PSCache,并且指定每个连接上PSCache的大小,Oracle等支持游标的数据库,打开此开关,会以数量级提升性能,具体查阅PSCache相关资料
pool-prepared-statements: true
max-pool-prepared-statement-per-connection-size: 20
# 配置间隔多久启动一次DestroyThread,对连接池内的连接才进行一次检测,单位是毫秒。
#检测时:
#1.如果连接空闲并且超过minIdle以外的连接,如果空闲时间超过minEvictableIdleTimeMillis设置的值则直接物理关闭。
#2.在minIdle以内的不处理。
回到顶部
三、连接池参数优化
其实数据库连接池优化主要就是优化最大连接数、获取连接等待时间、连接超时时间和会话超时时间四项,其他的就直接按照上述的参数配置即可,基本上不需要调整。
(一)压测
使用jmeter进行压测
1、创建一个线程组--数据库连接池测试
2、添加--配置原件--JDBC Connection Configuration
需要配置连接池名字、最大连接数、最大等待时间等,还需要配置验证sql、数据库信息
然后还需要添加一下驱动包,在测试计划中添加jar包即可。
3、添加--取样器--JDBC Request,需要添加连接池名字(mysql),sql语句,处理方式(这里选择预处理),sql的参数和参数类型
4、添加--监听器--结果树
5、添加--监听器--聚合报告
6、添加--监听器--TPS
7、添加--监听器--RT
(二)参数调整
1、max-active : 最大连接数
在数据库连接池优化时,最重要的就是最大连接数的优化,太小太大都会影响性能,那么如何设置最大连接数,就成为优化的关键。
试验: max-active = 10 , TPS 测试的结果如下所示:
试验: max-active = 20 ,TPS 测试结果: TPS = 18000 <= max-active=10
试验: max-active = 30 ,TPS 测试结果: TPS = 10000
结论: max-active 设置值范围: 【10 ~ 20】
2、Max-wait
含义: 表示从连接池获取连接的超时时间;单位是 ms ; 这个参数只管理获取连接的超时时间。
获取连接造成线程等待超时的原因:
(1)连接池未初始化(导致一开始获取不到连接,导致超时)
(2)连接长时间使用,已经被释放
(3)连接使用中,需要新建连接
(4)连接池中连接耗尽,需要等待用完后归还;
推荐设置:内网状态:max-wait=800 ms , 网络状态不是特别好,推荐设置大于等于 1200ms,因为 tcp 连接重试一般 1s;
例子:Max-wait = 0 – 无限等待,大量流量涌入后,导致线程池队列非常长,看起来 TPS 上升了,实际上处理吞吐能力下降的;
3、连接属性
(1)connectionTimeout : 配置建立 TCP 连接的超时时间,追加到连接后面即可;
(2)socketTimeout : 配置发送请求后,等待响应的超时时间,这里有个问题,如果建立了连接,但是在会话的时候,一直拿不到结果,那么该线程就一直阻塞,导致可用资源下降。
结论:Jdbc 请求连接后面:&connectionTimeout=3000&socketTimeout=1200
相关推荐
- MYSQL数据同步(mysql数据同步方式)
-
java开发工程师在实际的开发经常会需要实现两台不同机器上的MySQL数据库的数据同步,要解决这个问题不难,无非就是mysql数据库的数据同步问题。但要看你是一次性的数据同步需求,还是定时数据同步,亦...
- SpringBoot+Redis实现点赞收藏功能+定时同步数据库
-
由于点赞收藏都是高频率的操作,如果因此频繁地写入数据库会造成数据库压力比较大,因此采用redis来统计点赞收藏浏览量,之后定时一次性写入数据库中,缓解数据库地压力。一.大体思路设计redis中的储存结...
- 双11订单洪峰:Codis代理层如何扛住Redis集群搞不定的120万QPS?
-
双11订单洪峰下的技术挑战每年的双11购物节,都是对电商平台技术架构的极限考验。当零点钟声敲响,海量用户瞬间涌入,订单量呈指数级增长,系统需要承受每秒数十万甚至上百万次的请求。作为电商系统的核心组件之...
- 基于spring boot + MybatisPlus 商城管理系统的Java开源商城系统
-
前言Mall4j项目致力于为中小企业打造一个完整、易于维护的开源的电商系统,采用现阶段流行技术实现。后台管理系统包含商品管理、订单管理、运费模板、规格管理、会员管理、运营管理、内容管理、统计报表、权限...
- 商品券后价产品设计方案(显示券后价)
-
如何设计一套高效、准确且稳定的券后价计算系统,是电商产品设计中的关键挑战之一。本文详细介绍了商品券后价的产品设计方案,从背景目标、功能设计、系统实现逻辑到异常处理机制等多个方面进行了全面阐述。一、背景...
- 外观(门面)模式-Java实现(java 门面模式)
-
定义外观模式(FacadePattern),也叫门面模式,原始定义是:为了子系统中的一组接口提供统一的接口。定义一个更高级别的接口,使子系统更易于使用。大大降低应用程序的复杂度,提高了程序的可维护性...
- Mall - 用 SpringBoot 实现一个电商系统
-
目前最为主流的Web开发技术,包括SpringBoot、MyBatis、MongoDB、Kibina、Docker、Vue等,都是开发者十分需要掌握的技术。有没有一个全面而又实际的项目,能把这...
- 腾讯云国际站:哪些工具能实现可视化运维?
-
本文由【云老大】TG@yunlaoda360撰写开源工具Grafana:开源的可视化平台,可与Prometheus、Elasticsearch、MySQL等多种数据源集成,将复杂监控数据转化...
- 系统稳定性保障全流程实战:事前、事中、事后 Java 代码详解
-
在互联网架构中,系统稳定性是生命线。本文基于“事前预防、事中管控、事后复盘”三阶段模型,结合Java实战代码,深度解析如何构建高可用系统,让你的服务稳如磐石!一、事前:未雨绸缪,筑牢防线1.发...
- Java面试题:拆分微服务应该注意哪些地方方,如何拆分?
-
在拆分微服务时,需要综合考虑业务、技术和组织等多方面因素,以下是关键注意事项及拆分策略的详细说明:一、拆分注意事项1.业务边界清晰化单一职责原则:每个服务应专注于单一业务能力,例如订单服务仅处理订单...
- 软件性能调优全攻略:从瓶颈定位到工具应用
-
性能调优是软件测试中的重要环节,旨在提高系统的响应时间、吞吐量、并发能力、资源利用率,并降低系统崩溃或卡顿的风险。通常,性能调优涉及发现性能瓶颈、分析问题根因、优化代码和系统配置等步骤,调优之前需要先...
- Docker Compose实战,多容器协同编排的利器,让开发部署更高效!
-
开篇导读你是否有过这样的经历?启动一个项目,数据库、Redis、Web服务得一个个敲dockerrun?想让别人复现你的开发环境,却得发一堆复杂的启动命令?明明都是容器,为什么不能“一键启动”所...
- 如何设计Agent的记忆系统(agent记忆方法)
-
最近看了一张画Agent记忆分类的图我觉得分类分的还可以,但是太浅了,于是就着它的逻辑,仔细得写了一下在不同的记忆层,该如何设计和选型先从流程,作用,实力和持续时间的这4个维度来解释一下这几种记忆:1...
- 不了解业务和技术术语怎么做好产品和项目?
-
基础技术术语术语分类解释API开发技术应用程序接口,不同系统间数据交互的协议(如支付接口、地图接口)。SDK开发工具软件开发工具包,包含API、文档和示例代码,帮助快速接入服务。RESTfulAPI...
- Docker 架构详解与核心概念实战图解:一文读懂容器的前世今生
-
不懂Docker架构,你只是“用容器的人”;理解了它的底层逻辑,才能成为真正的高手!在学习Docker之前,很多同学可能会陷入一个误区:“反正我用dockerrun就能跑起服务,架构这种...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)