百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

MySQL读写分离原来如此简单_mysql读写分离原来如此简单了

mhr18 2025-02-17 13:07 12 浏览 0 评论

满怀忧思不如先干再说!

前言

??这篇我们来说说基于Mycat实现读写分离,实现的相关技术还有sharding-sphereTDDL等,技术解决的问题都是一致的,技术之间思想基本相同,所以我们只需要发现系统中可能存在的问题,理解理论上的解决方案和找到一个应用上的落地实现的技术就可以了。话不多说我们以以下几方面介绍:

  • 现存数据库存在问题
  • 解决方案
  • MyCat使用和基本原理

单库应用

??最简单的软件系统和数据库架构就是这样的只有一个单独的数据库,想想我们的系统刚开发,或者你是大学生在做毕业设计的时候,架构是不就是下图这样的:


问题

??如上图我们的应用程序和MySQL数据库直连,数据库的配置信息是写在我们的应用配置文件中(脑子里要闪现出项目中的数据库配置),数据库只有一个实例来提供服务,之后我们的项目要发布到网络上提供服务,如果网站推广做的好就会有越来越多的用户使用,访问量就会很大,App可以通过nginx负载均衡等,我们的数据库还是单机在卖命?压力就会很大,一旦数据库宕机就GG了逆风翻盘已不存在,客户心里就骂骂咧咧的:垃圾软件卸载,所有的数据都存储在一个数据库中或者一个表中,数据越来越多怎么办?单表数据超过几百万条,几千万条上亿条怎么维护?等等总结几点如下:

  • 应用程序直连数据库,耦合性高
  • 用户并发高,数据库压力大,无论读还是写没有明确划分
  • 数据库单实例运行是肯定不行的
  • 表中数据越来越多怎么维护等等

解决方案

??通过上边问题相信大家可以看出本质,我们可以部署多台MySQL搭建集群,配置读和写操作不同的数据库,数据进行拆分,存储在多张表中,应用程序与数据库降低耦合,添加中间件,总结几点如下

  • 添加数据库中间件降低耦合
  • 读写分离,提高数据库响应速度
  • 数据库分表分库,更好维护数据

上边我们说到数据库会出现什么问题以及解决的思想,就是使用数据库中间件(MyCat)来做读写分离,分表分库等,下边我们就说说如何具体使用!

数据库中间件

什么时候使用中间件

??随着业务的发展,数据库里的表越来越大,一两年以后,2千万、甚至上亿记录的表就会出现了(一般可以简单认为表比较复杂的时候,MySQL几百万上千万的时候,Oracle几千万的时候,就会出现复杂查询或变更有性能问题),这时候可能会导致复杂的查询慢,插入和修改数据慢,修改表的DDL执行太慢导致无法修改列类型或者加索引或者加字段等等。怎么办呢?这时候我们就可以读写分离,分表分库
??如果我们的业务发展到了需要降低单库单表的压力、或者读写分离,而研发团队又不大,自己对这一块的技术积累不足以自己开发一些中间层代码去搞定问题,就需要考虑引入数据中间件了。

常用中间件

  • Cobar:
    ??阿里巴巴B2B开发的关系型分布式系统,管理将近3000个MySQL实例。 在阿里经受住了考验,后面由于作者的走开的原因cobar没有人维护 了,阿里也开发了tddl替代cobar。
  • Mycat:
    ??社区爱好者在阿里cobar基础上进行二次开发,解决了cobar当时存 在的一些问题,并且加入了许多新的功能在其中。目前MyCAT社区活 跃度很高,目前已经有一些公司在使用MyCAT。总体来说支持度比 较高,也会一直维护下去,
  • OneProxy:
    ??数据库界大牛,前支付宝数据库团队领导楼总开发,基于mysql官方 的proxy思想利用c进行开发的,OneProxy是一款商业收费的中间件, 楼总舍去了一些功能点,专注在性能和稳定性上。有朋友测试过说在 高并发下很稳定。
  • Vitess:
    ??这个中间件是Youtube生产在使用的,但是架构很复杂。 与以往中间件不同,使用Vitess应用改动比较大要 使用他提供语言的API接口,我们可以借鉴他其中的一些设计思想。
  • Kingshard:
    ??Kingshard是前360Atlas中间件开发团队的陈菲利用业务时间 用go语言开发的,目前参与开发的人员有3个左右, 目前来看还不是成熟可以使用的产品,需要在不断完善。
  • Atlas:
    ??360团队基于mysql proxy 把lua用C改写。原有版本是支持分表, 目前已经放出了分库分表版本。在网上看到一些朋友经常说在高并 发下会经常挂掉,如果大家要使用需要提前做好测试。
  • MaxScale
    ??是mariadb(MySQL原作者维护的一个版本)研发的中间件
  • MySQL Route
    ??MySQL官方Oracle公司发布的中间件

国内使用较多的是Mycat,免费,简单,功能强大,社区完善,后两者虽是官方提供的但是拿到国内就有点水土不服,毕竟国内网站的吞吐量是非常大的。现在也有选择使用 sharding-sphere

Mycat安装

??下载上传Linux解压安装在/usr/local目录下即可,版本为1.6,下图就是mycat目录结构,几乎所有软件都是这些目录就不一个一个说了!

mycat主要配置文件

  • schema.xml:定义逻辑库,表、分片节点等内容
  • rule.xml:定义分片规则
  • server.xml:定义用户以及系统相关变量,如端口等

一主一从读写分离

??单个数据库宕机会导致数据获取不到,数据库一般都是多个,而且我们项目中一般都是读得多写得少,比如我们使用淘宝看商品要比购买的点击次数多得多,我们为了提升项目并发量,数据库会实现读写分离,就好比火车站的入口和出口分开一样。
??我们先来个一主一从配置,主库负责写入数据,从库负责读取数据,从库和主库需要数据同步,可以使用MySQL(5.5版本之后)自带的主从复制实现,先搭建MySQL主从复制,再配置一主一从实现读写分离,一个主机负责处理所有的写请求,一台从机负责所有的读请求,架构图如下

Mysql主从复制原理

??主数据库会将所有的写操作写入到二进制文件(binlog)中,从数据库读取binlog日志再将读取到的binlog写入到中继日志(Relaylog)中,再通过SQL线程执行语句,实现主从复制数据同步,与Redis一样主数据库只能有一台,从数据库可以有多台,不同之处在于Redis是全量复制,而MySQL是从确认主从关系后开始复制,之前的数据是不同步的,读取二进制文件和写入中继日志都会发生IO所以会存在延时

主数据库配置(编辑/etc/my.cnf文件)

# Server ID
server-id =1
# 启动二进制日志
log-bin = mysql-bin
# Mysql有一些系统库不需要复制,可以配置多个
binlog-ignore-db = mysql 
binlog-ignore-db = sys
binlog-ignore-db = information_schema
binlog-ignore-db = performance_schema
# 设置需要复制的数据库,这里设置了上边不复制项就可以不设置
binlog-do-db = mycatdb
# 设置logbin日志格式
binlog_format = STATEMENT

从数据库配置

# Server ID
server-id =2
# 启用中继日志
relay-log = mysql-relay

重启Mysql查看状态,并且关闭防火墙

# 重启
systemctl restart mysqld 
# 查看状态
systemctl status mysqld
# 关闭防火墙
systemctl stop firewalld
# 开机禁用
systemctl disable firewalld
# 查看防火墙状态
systemctl status firewalld

创建可以进行复制的从节点用户slave

# 创建用户名为slave,密码为123456
grant replication slave on *.* to 'slave'@'%' identified by '123456';
# 刷新
flush privileges;
# 查看master状态
show master status;

记录下File和Position的值,到这里就不要操作主Mysql,防止服务器状态值变化,因为mysql主从复制是从主数据库当前状态开始复制

配置主从关系

change master to master_host='主IP',
master_user='上方我们创建的用户',
master_password='上方密码',
master_log_file='File',
master_log_pos=Position;
# 例如
change master to master_host='192.168.11.201',
master_user='slave',
master_password='123456',
master_log_file='mysql-bin.000003',
master_log_pos=582;

如果之前环境搭建过主从复制会报错,运行stop slave;和restart master;

启动从服务器复制功能

# 启动从服务
start slave;
# 查看从服务器状态
show slave status\G;

哎呦?出错了?


强调:Slave_IO_Running和Slave_SQL_Running都要为YES才行!!!


不慌


??程序员基本素养看日志,问题提示主从使用了相同的server UUID,这个UUID是在auto.cnf文件中,也就是你安装mysql时在my.cnf文件中配置的datadir路径下,输出之后发现确实是一样的


[root@stt201 data]# cat auto.cnf 
[auto]
server-uuid=dbbcb5a4-7331-11ea-b078-000c29382f46
[root@stt202 data]# cat auto.cnf 
[auto]
server-uuid=dbbcb5a4-7331-11ea-b078-000c29382f46


盘它


??停止从库的mysqld服务,删除auto.cnf文件,再启动数据库服务即可:


systemctl stop mysqld #停止服务
rm -rf auto.cnf #删除文件
systemctl start mysqld #启动服务
systemctl status mysqld #查看状态


一套创建库创建表插入数据连招安排


-- 创建、添加数据都是写,你说在哪弄?
-- 创建库
CREATE DATABASE mycatdb;
-- 创建表
CREATE TABLE IF NOT EXISTS mycatdb.tb_mycat(
	id INT NOT NULL,
    name VARCHAR(20) NOT NULL,
    PRIMARY KEY (`id`)
)ENGINE=InnoDB DEFAULT CHARSET=utf8;
-- 插入数据
INSERT INTO mycatdb.tb_mycat(id,name) values(1,"添添"),(2,"小添"),(3,"晓添");
-- 主库和从库查询数据若都可以正常显示,说明木得问题
SELECT id,name FROM mycatdb.tb_mycat;


Mycat配置读写分离

分为以下两个步骤:

  • 修改server.xml文件
  • 修改schema.xml文件

修改server.xml文件



修改schema.xml文件


??删除标签间表信息,标签只留一个,标签只留一个,只留一对


强调:schema中的name属性值是我们mycat记录的逻辑库的名字,区分大小写,dataNode标签的database属性值对应的是真实的物理数据库名字,大家一定要记住并区分开,我们通过操作Mycat的逻辑库,Mycat帮我们去操作真正的物理数据库,啊呦欧克~~~


dataHost标签中的balance属性配置读写分离类型,默认为0,实际生产过程中设置为1(主双从)或者3(单主单从)


0:不开启读写分离,所有读操作都发送到当前可用的writeHost上


1:全部的readHost与stand by writeHost参与SELECT 语句的负载均衡


2:所有的读操作随机在writeHost和readHost上分发


3:所有读请求随机分发到readHost上执行,writeHost不负担读压力


启动Mycat吧


前提


  • 安装JDK,并且配置环境变量,Mycat基于Java编写,需要JVM
  • 在mysql中创建mycat用户密码为123456(和我们server.xml文件中一致)
  • mysql启动远程访问


-- 表示任意ip后可通过root用户密码123456访问
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
-- 刷新
flush privileges;


sql都准备好,就是懂你~~~


启动方式


  • 控制台启动:到mycat/bin目录下运行 ./mycat console;推荐使用,可以第一时间看到日志方便定位问题
  • 后台启动:到mycat/bin目录下运行 ./mycat start;

如果看到图上红框内容说明mycat启动成功


Mycat登陆


登录后台管理窗口


用于管理维护Mycat


mysql -umycat -p123456 -P 9066 -h 192.168.11.201


登陆数据窗口


用于通过Mycat查询数据,我们开发是使用8066端口搞事情


mysql -umycat -p123456 -P 8066 -h 192.168.11.201


查看数据


-- 登陆mycat
mysql -umycat -p123456 -P 8066 -h 192.168.11.201
-- 查看数据库,看下图,查出来的是我们的逻辑库,区分大小写哦
show databases;
-- 使用逻辑库
use MYCATDB;
-- 查看库下所有表
show tables;
-- 查看数据
SELECT * FROM tb_mycat;



验证读写分离


-- 进入主mysql,添加一条数据,@@hostname为当前主机的名字
-- 主数据库和从数据库的主机名不同,所以数据也不一样
INSERT INTO mycatdb.tb_mycat(id,name) values (4,@@hostname);
-- 我们登陆mycat查看数据,如果是从数据库的数据那么就证明成功
SELECT * FROM MYCATDB.tb_mycat;


呀呀呀!咱们到这里就实现MySQL的主从复制,使用Mycat实现Mysql单主单从的读写分离,心里还真有点小激动呢!到这里大家跟着做出来,喝杯茶,下方留个言啥的岂不美哉!


双主双从读写分离


介绍


??上边我们介绍了一主一从实现读写分离,但是如果主库或者从库宕机就无法正常提供写和读的服务。我们使用双主双从,master1和master2为主服务器,都有对应的slave,当Master1宕机时Master2负责写请求,M1和M2互为备机,提高MySQL可用性,架构图如下


集群规划

编号

角色

IP地址

主机名

1

Master1

192.168.11.201

stt201

2

Slave1

192.168.11.202

stt202

3

Master2

192.168.11.203

stt203

4

Slave2

192.168.11.204

stt204


双主双从配置


Master1配置my.cnf文件


# Server ID
server-id =1
# 启动二进制日志
log-bin = mysql-bin
# Mysql有一些系统库不需要复制,可以配置多个
binlog-ignore-db = mysql
binlog-ignore-db = sys
binlog-ignore-db = information_schema
binlog-ignore-db = performance_schema
# 设置需要复制的数据库,这里设置了上边不复制项就可以不设置
binlog-do-db = mycatdb
# 设置logbin日志格式
binlog_format = STATEMENT
#步进值auto_imcrement。一般有n台主MySQL就填n
auto_increment_increment=2         
#起始值。一般填第n台主MySQL。此时为第一台主MySQL
auto_increment_offset=1
# 在作为从数据库时,有写入操作也要更新二进制文件
log-slave-updates = 1


Master2配置


# Server ID
server-id =3
# 启动二进制日志
log-bin = mysql-bin
# Mysql有一些系统库不需要复制,可以配置多个
binlog-ignore-db = mysql
binlog-ignore-db = sys
binlog-ignore-db = information_schema
binlog-ignore-db = performance_schema
# 设置需要复制的数据库,这里设置了上边不复制项就可以不设置
binlog-do-db = mycatdb
# 设置binlog日志格式
binlog_format = STATEMENT
#步进值auto_imcrement。一般有n台主MySQL就填n
auto_increment_increment=2         
#起始值。一般填第n台主MySQL。此时为第2台主MySQL
auto_increment_offset=2
log-slave-updates = 1


Slave1配置


# Server ID
server-id =2
# 启用中继日志
relay-log = mysql-relay


Slave2配置


# Server ID
server-id =4
# 启用中继日志
relay-log = mysql-relay


启动


前提


先删除mycatdb库(为什么呢?)


drop database mycatdb;


主从都重启mysql服务


systemctl restart mysqld
systemctl status mysqld


在两台主服务器上创建并授权slave用户,我们上边创建过的


-- 查看是否有用户存在
mysql> use mysql;
mysql> select user from user;


取消主从关系,在slave上运行


mysql> stop slave;
mysql> restart master;


配置主从和主主互备并且验证同步


-- 主从和主主互备与我们一主一从那个命令一样,不同的是我们需要在主节点运行一遍下方命令实现主主互备所以我们先查看Master的信息
change master to master_host='主IP',
master_user='上方我们创建的用户',
master_password='上方密码',
master_log_file='File',
master_log_pos=Position;
-- 启动从服务
start slave;
-- 查看状态,IO和SQL是否都为YES
show slave status\G;
-- 在主服务器做写入操作,参考一主一从


贴出过程大家可供参考



到这我们就实现了Mysql双主双从配置,并且没有问题的跑了起来,真是不容易啊,在这里我也是出了很多问题,踩了很多坑,大家按照步骤来弄,应该没有问题,出现问题下方留言评论或者私信我都可以哦!接下来我们就一口气使用Mycat实现双主双从的读写分离吧


Mycat配置读写分离


修改schema.xml文件





	
	
	
	
	
	
	
		
		select user()
		
		
			
			
		
		
			
			
		
	

1、配置两个writeHost标签,修改host,url,user,password四个属性为自己的


2、dataHost标签中writeType属性,默认值为0


0:表示所有写操作发送到第一个writeHost中,第一个挂了切换到第二个还生存的:

1:所有的写操作随机发送给配置的writeHost,1.5之后废弃不推荐


3、dataHost标签中switchType属性,默认值为1


1:故障自动切换

2:故障不切换

3:基于Mysql主从同步状态决定是否切换


验证读写分离


??配置完mycat之后启动和登录mycat,下图前四个窗口是mysql窗口,在第一个窗口添加数据,以hostname为区分,数据成功添加并同步成功,在mycat窗口查询大家看到输出的数据时stt202和stt204这两个主机正是从服务器!


验证抗风险性


??我们模拟一下mysql宕机,停止stt201服务器上mysql服务,通过mycat插入数据,通过select语句查询数据发现只有stt203和stt204上有数据,stt202是stt201的从服务器所以没有同步数据,但是stt203和stt204两台主机仍然可以为我们提供正常的数据服务



故障恢复


??这是运维大佬正在召唤师峡谷大展异彩,突然接到报警书数据库崩了,没有什么问题是重启解决不了了,我们现在重启一下stt201上的mysql服务,在使用mycat插入数据,发现四台服务器上数据一致,包括之前stt201宕机时插入的id为6的数据也在,是因为我们有主主互备,并且stt202是stt201的从服务。


总结


  1. mysql单机会出现单点故障问题,数据库宕机将造成数据无法读写,而且如果网站并发高,一个数据库实例无法支撑庞大的业务流量,我们项目中一般是读比写多,所以我们可以使用mysql的读写分离
  2. mysql读写分离这里演示了两种一主一从和双主双从,如果大家后边的n主n从可以参考配置修改即可,读写分离需要保证主库和从库数据一致这个可以依赖mysql5.5之后自带的主从复制实现
  3. 一主一从模式存在的问题是如果主库或者从库宕机也无法实现正常的服务,所以我们在生产中会使用多主多从方式都提供备用机提高mysql的可用性
  4. mysql的主从复制可以单独实现,但是如果要实现读写分离则需要使用数据库中间件,我们这里使用的是Mycat
  5. Mycat我们需要安装和配置,以及一些重要配置参数大家要心里有数

这篇文章我们先说一下基于Mycat实现Mysql读写分离,下一篇安排MySQL分表分库

收藏等于学会,动动小手支持一下吧!

相关推荐

Redis合集-使用benchmark性能测试

采用开源Redis的redis-benchmark工具进行压测,它是Redis官方的性能测试工具,可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译,详情请参见Redis...

Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好

最近看了几十份简历,发现大部分人不是技术差,而是不会“卖自己”——一、简历死穴:你写的不是经验,是岗位说明书!反面教材:ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法:...

redission YYDS(redission官网)

每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架,它提供了各种锁实现,包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...

从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道

2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时,订单系统却产生了1200笔有效订单。事故复盘发...

SpringBoot系列——实战11:接口幂等性的形而上思...

欢迎关注、点赞、收藏。幂等性不仅是一种技术需求,更是数字文明对确定性追求的体现。在充满不确定性的网络世界中,它为我们建立起可依赖的存在秩序,这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...

如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享

如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享在高流量场景下。首先,我需要回忆一下常见的优化策略,比如负载均衡、缓存、数据库优化、微服务拆分这些。不过,可能还需要考虑用户的具体情况,比...

Java面试题: 项目开发中的有哪些成长?该如何回答

在Java面试中,当被问到“项目中的成长点”时,面试官不仅想了解你的技术能力,更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例,帮助你清晰、有说服力地展示成长点:一...

互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?

你有没有遇到过这样的情况?在电商大促时,系统上线了抢券活动,结果活动刚一开始,服务器就不堪重负,出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮,最后却被告知无券可抢,体验极差。作为互联网大厂的后...

每日一题 |10W QPS高并发限流方案设计(含真实代码)

面试场景还原面试官:“如果系统要承载10WQPS的高并发流量,你会如何设计限流方案?”你:“(稳住,我要从限流算法到分布式架构全盘分析)…”一、为什么需要限流?核心矛盾:系统资源(CPU/内存/数据...

Java面试题:服务雪崩如何解决?90%人栽了

服务雪崩是指微服务架构中,由于某个服务出现故障,导致故障在服务之间不断传递和扩散,最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法:限流限制请求速率:通过限流算法(如令牌桶算法、漏桶算...

面试题官:高并发经验有吗,并发量多少,如何回复?

一、有实际高并发经验(建议结构)直接量化"在XX项目中,系统日活用户约XX万,核心接口峰值QPS达到XX,TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...

瞬时流量高并发“保命指南”:这样做系统稳如泰山,老板跪求加薪

“系统崩了,用户骂了,年终奖飞了!”——这是多少程序员在瞬时大流量下的真实噩梦?双11秒杀、春运抢票、直播带货……每秒百万请求的冲击,你的代码扛得住吗?2025年了,为什么你的系统一遇高并发就“躺平”...

其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。

其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。比如上周有个小伙伴找我,五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他:你做的秒杀...

PHP技能评测(php等级考试)

公司出了一些自我评测的PHP题目,现将题目和答案记录于此,以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct(),类的构造函数__destruct(),类的析构函数__cal...

你的简历在HR眼里是青铜还是王者?

你的简历在HR眼里是青铜还是王者?兄弟,简历投了100份没反应?面试总在第三轮被刷?别急着怀疑人生,你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...

取消回复欢迎 发表评论: