Redis集群的主从复制模式
mhr18 2024-11-22 17:39 19 浏览 0 评论
在实际应用中,使用单台Redis服务器可能会出现服务器故障停机、容量瓶颈、QPS瓶颈等问题,进而影响系统及网站的正常服务。为了避免单机出现的问题,引入了Redis集群的主从复制模式。
什么是主从复制
在Redis,通过slaveof命令,或者通过配置文件设置slaveof选项,就可以让一台服务器去复制另一台服务器,其中被复制的叫主服务器,另外一个叫从服务器,主服务器更新数据后,自动同步到从服务器上面。其中,主服务器master以写为主,从服务器slave以读为主。
主从复制的作用
- 为一个数据提供多个副本,使得高可用、分布式成为可能。
- 扩展redis的读写性能,可以实现读写分离。
主从复制的重要功能说明
- 一个master可以有多个slave,但一个slave只能有一个master。
- 数据的流向是单向的,从master到slave。
- 从2.8版本后,Redis采用异步复制,从服务器会以每秒一次的频率向主服务器报告复制流的处理进度。
- 除主服务器可以有多个从服务器以外,从服务器也可以有自己的从服务器,多个从服务器之间可以构成一个网状结构。
- 在进行复制的时候,复制功能不会阻塞主服务器,同理,也不会阻塞从服务器,主从服务器都可以使用旧版本的数据集进行处理。但是当从服务器删除旧版本数据集并加载新版本数据集的时候,连接请求会被阻塞,直到加载完成。
- 如果一个主节点B成为一个主节点A的从节点,那么主节点B之前保存的数据会被清除,而同步主节点A的数据,数据库状态将与主节点A保持一致。
主从复制配置
如果一个从节点希望取消,变为主节点,那么可以使用命令
SLAVE no one
从节点变为主节点,但之前的数据不会消失,只是数据不在更新。
主从复制的相关配置信息
masterauth <master-password>
从服务器连接主服务器时,如果主服务器需要密码,从服务器需要在这里配置。
slave-serve-stable-data yes
当slave与master断开连接或者是复制正在进行的时候,slave有两种方式运行,当值为yes的时候,表示服务器会继续处理来自客户端的请求;当值为no的时候,表示服务器对slaveof命令和info命令之外的命令都会拒绝。默认为yes。
slave-read-only yes
表示slave设置为只读。
repl-diskless-sync no
是否使用socket方式复制数据。redis提供了两种复制方式:disk和socket,如果新的slave或者重新连接上来的slave无法实现部分同步,就会执行全量同步,master会生成RDB文件。
使用socket的时候,master会创建一个新的进程,直接把RDB文件发送给slave,而使用disk的时候,先把文件保存到硬盘再发送。
在硬盘读写慢、网速快的情况下,推荐使用socket方式。
repl-diskless-sync-delay 5
复制的延迟时间,不建议设置为0,因为复制一旦开始,节点不会再接收新的slave复制请求,直到下一个RDB传输。
repl-ping-slave-period 10
从节点每隔一段时间向master发起ping请求。
repl-timeout 60
主从服务器判断对方是否离线的最大时间,所设置的值一定要比repl-ping-slave-period的时间要长,否则会常常出现超时。
....
复制功能的原理
从2.8开始,开始使用psync来代替sync命令来执行复制时的同步操作。
psync具有全量同步和部分同步两种模式。
全量同步
用于处理第一次复制的情况,它通过让主服务器创建并发送RDB文件,以及向从服务器发送保存在缓冲区里的写命令来完成同步。
部分同步
用于处理从服务器离线后重新连接的复制情况。当从服务器离线后重新连接到主服务器的时候,如果条件运行,主服务器发送离线这段时间的写命令到从服务器,从服务器收到并执行这些写命令后,达到跟主服务器相同的状态。
psync解决2.8以前处理这种离线问题后重新复制时出现的低效问题。
psync比sync更高效。
部分同步模式的组成:
主从服务器都会维护一个复制偏移量,当主服务器每次向从服务器发送数据的时候,都会在偏移量的后面加上发送的字节,从服务器收到后,也会在偏移量后面加上对应的字节,来保证主从一致,如果偏移量不同,则状态不一致。
INFO replication
查看主从服务器的复制信息。
master_repl_offset为对应的偏移量。
主从云服务器的运行id
主从服务器都会有一个自己的运行id,这个为40个16进制的随机字符。
当从服务器对主服务器进行初次复制同步的时候,主服务器会将自己的id发送给从服务器。从服务器离线后再次谅解,会通过这个id向主服务器发起身份验证。
如果id和主服务器一致,则可以进行部分同步操作,如果不一致,则连接的主服务器是新的主服务器,只能进行全量同步操作。
复制缓冲区
复制缓冲区是主服务器维护的一个固定长度的,先进先出的的队列。在默认的情况下,复制缓冲区的大小为1MB。
主服务器在写命令后,会将命令发送给从服务器,同时将命令和其对应的偏移量存入到这个队列当中去,主服务器会根据这个复制偏移量来决定是对从服务器执行全量同步操作,还算部分同步操作。
如果从服务器的复制偏移量之后的数据存在与复制缓冲区中,那么主服务器会对从服务器执行部分同步,否则执行全量同步。
PSYNC命令的实现过程
- 如果之前服务器没有复制过任何主服务器,或者之前执行过取消复制的命令slaveof no one,那么从服务器在与主服务器正常连接的时候,会向主服务器发送PSYNC?-1的命令,主动请求主服务器执行全量同步操作。
- 如果从服务器已经复制过某台服务器,那么从服务器在开始一次新的复制的时候,会向主服务器发送
psync <runid> <offset>
主服务器收到后,会通过runid和offset两个参数来判断应该对从服务器执行哪种同步操作。
如果runnid不是主服务器的,主服务器向从服务器返回 +FULLRESYNC <runid><offset>,其中runnid为主服务器的id,offset为主服务器的offset,作为从服务器的初始偏移量,此时执行的同步为全量同步。
如果主服务器发送的是+CONTINUE,表示主服务器将会对从服务器执行部分同步操作,从服务器只需要等待将自己缺失的那部分发过来即可。
如果主服务器发送的是-ERR,表示主服务器版本过低,识别不了PSYNC。
全量同步的具体过程
- slave发送同步命令PSYNC?-1给master。
- master接到salve发送的命令同步后,判断slave要做全量复制,会把自己的runid和offset发送给slave。
- slave接收到发送过来的runid和offset会及时保存。
- master使用BGSAVE命令生成RDB文件,在此期间,会将新的写命令保存到复制缓冲区当中,复制缓冲区记录了最近新写入的命令。
- 在master生成RDB文件后,将RDB文件发给slave。
- master同时将复制缓冲区中的数据发送给slave。
- slave会在接收RDB文件和复制缓冲区中的数据之前,会清空自身原有的数据。
- slave加载和RDB文件和复制缓冲区中间的数据,这样就能保存slave节点和master节点之间的数据一致性,最终实现全量同步。
在全量同步会存在很多的时间开销,同时还可能存在数据的丢失问题。假如master和slave之间的网络发生抖动,在这一段时间,就会存在master数据丢失的问题。但对于slave来说,它是不知道的。在2.8之前,是执行全量同步,但这样效率很低,在2。8之后,实行部分同步。
部分同步
- 如果master和slave之间的网络发生了抖动,相当于连接断开了。
- master在写命令的时候,会将最近的写命令写入的缓冲区。
- 抖动结束后,slave会继续连接master。
- 之后slave会发送命令PSYNC<runid><offset>到master。
- master根据传递过来的复制偏移量进行判断。如果传递过来的复制偏移量在buffer之内,则会返回CONYINUE,如果不在buffer之内,则说明已经错过了很多数据,就需要进行全量同步。
- master把最近的数据逐步同步到slave当中,最终实现部分同步。
复制功能的具体实现步骤
(1)客户端向从服务器发送命令,设置主服务器的ip地址和端口号。
slave of ...
这是一个异步命令。
(2)主从服务器之间建立套接字连接,主服务器会将从服务器当做一个客户端。
(3)从服务器向主服务器发送ping命令,主服务器会给从服务器发送一个回复,如果从服务器在规定时间内不能够读出发送过来的命令请求,则从服务器认为主服务器网络不好,断开连接,需要重新建立套接字连接。如果主服务器返回“PONG”,说明网络良好,可以进行下一步的操作。
(4)根据从服务器的配置是否决定身份验证
如果从服务器没有配置masterauth,就直接复制。
如果配置了,从服务器发送auth命令,该命令为从服务器masterauth的值。如果密码相同,则复制,如果不一致,则从建立套接字连接开始。
(5)从服务器向主服务器发送端口信息。
从服务器执行RELPCONF listening-port <port-number>,向主服务器发送从服务器的监听端口信息。主服务器在接收到这条命令后,保存在slave_listening_port属性中,在主服务器执行INFO replication命令之后,就会打印出slave_listening_port所监听的端口。
(6)从服务器发送psync命令完成同步,主服务器收到之后,判断是执行全量同步还是执行部分复制。
(7)主从服务器之间进行命令传播,保证主从服务器之间的状态一致。
相关推荐
- 【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库
-
如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...
- Pure Storage推出统一数据管理云平台及新闪存阵列
-
PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...
- 对Java学习的10条建议(对java课程的建议)
-
不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...
- SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!
-
官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...
- JDK21有没有什么稳定、简单又强势的特性?
-
佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...
- 「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了
-
在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...
- Java面试题及答案最全总结(2025版)
-
大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...
- 数据库日常运维工作内容(数据库日常运维 工作内容)
-
#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...
- 分布式之系统底层原理(上)(底层分布式技术)
-
作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...
- oracle 死锁了怎么办?kill 进程 直接上干货
-
1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...
- SpringBoot 各种分页查询方式详解(全网最全)
-
一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...
- 《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略
-
《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...
- LoadRunner(loadrunner录制不到脚本)
-
一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...
- Redis数据类型介绍(redis 数据类型)
-
介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...
- RMAN备份监控及优化总结(rman备份原理)
-
今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)