百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

Redis主从复制的基本概念和主节点的自动化故障恢复

mhr18 2024-10-25 12:42 36 浏览 0 评论


文:猿十叁

编辑:猿十叁

redis为了避免单点故障Redis是一种基于内存的键值数据库,主从复制是实现Redis高可用性的一种重要机制。

Redis主从复制指的是将一个Redis服务器(即主节点)上的数据内容复制到另一个或多个Redis服务器(即从节点)上,形成主节点和若干个从节点的拓扑结构,从节点可以处理读请求并提供故障转移。

主节点负责接收客户端的写操作并且将这些操作同步地发送给从节点,在每个从节点上复制本地副本以提高数据的可靠性和性能。当主节点发生宕机等故障时,从节点可以自动切换为新的主节点,从而实现Redis的高可用性。

Redis主从复制是Redis提供的一种数据复制到一个或多个备用节点。这些备用节点充当Redis的从节点,它们自动接收并复制主节点的所有写操作。

Redis主从复制的代码实现

在做代码示例之前,我们需要做一些前期准备工作。

我们需要使用Python Redis模块redis-py来连接Redis并设置主节点,然后通过从机进行验证复制。然后使用从节点读取主节点的所有写操作,以确保同步复制。

该程序使用Redis Python模块redis-py实现Redis主从复制。在此示例中,主节点的写操作被复制并同步到从节点,可以在从节点上读取来自主节点的所有操作。

下面介绍一些Redis主从复制中的关键特点:

主节点将操作记录在内存中,并将操作记录发送到从节点进行同步。因此,在主节点与从节点之间存在一定的延迟。主节点可以同时向多个从节点发送操作记录并同步数据。但是,随着从节点数量的增加,主节点的性能可能会受到影响。

当主节点失效时,可以将其中一台从节点升级为新的主节点以提供数据服务。当主节点发生故障时,可以使用从节点升级为主节点,继续提供数据服务。

下面是一些相关的重要设置:

在Redis配置文件中使用"appendonly yes"选项来开启主节点的持久化存储,以便在主节点故障时保留数据。

通过使用"replicaof"命令来指定从节点同步主节点的方式。通过设置主节点中从节点的优先级,可以为特定的从节点提供更高的数据复制优先级。

之前说了我们需要配置哪些东西,现在我们再来看看如何配置从主复制。

除了前面提到的基本代码实现,还需要进一步说明如何设置Redis主从复制。在此示例中,我们使用redis-py模块连接Redis并设置主节点和从节点,然后将从节点设置为复制主节点的方式。

在以上代码中,我们首先建立主节点与从节点之间的连接。然后,我们设置了一个名为“key”的键值对,并将其存储在主节点中。

接下来,我们配置从节点并使用replicaof命令将其设置为复制主节点的方式。实际上,这意味着主节点接收到写操作后,从节点将自动复制该数据。

最后,我们在从节点上读取传输的数据,以确保从节点正确地复制了主节点的数据。若输出为“value”,则说明已成功地执行了Redis主从复制。

实际上,在实际生产环境中,配置Redis主从复制需要考虑各种因素,包括网络延迟、主从节点的容错策略、备份和数据同步等等。但以上示例程序可以解释如何在Redis中实现主从复制过程的基本概念。

下面我们看第二个问题:从机切入问题

在Redis主从复制中,“从节点切入”是指管理员将哪些从节点设置为新的主节点。在这种情况下,管理员需要将从节点升级为新的主节点,并将所有其他从节点设置为复制新主节点。

下面是使用Python Redis模块redis-py实现Redis从节点切入的示例。使用“slaveof no one”命令将从节点升级为新的主节点,并将所有其他从节点设置为复制新主节点。

首次连接后进行全量复制,后续跟随,master写,slave跟。

在以上代码中,我们设置了主节点和第一台从节点,并将“key”设置为“value”。然后我们将从节点升级为新的主节点,并使用replicaof命令将其设置为复制主节点的方式。最后我们将其他从节点设置为复制新主节点,并在新主节点上读取“key”的值以确保数据已成功复制。

请注意,这只是一个示例,实际进行Redis从节点切换可能需要更多的步骤。例如,您可能还需要调整节点的优先级,以确保部署的Redis集群的高可用性。

在实操过程中,我们可能会碰到主机宕机的问题,不过不用担心,当Redis主节点宕机时,Redis从节点可以自动升级为新的主节点,从而提供数据服务并保证Redis数据的可用性。当主节点宕机时,存在三种情况:

  1. Redis从节点在主节点宕机之前复制了最新数据,并在主节点宕机之后自动升级为新的主节点。在这种情况下,Redis集群可以自动继续运行,不会出现数据损失。
  2. Redis从节点没有复制最新的数据,并且无法升级为新的主节点。在这种情况下,Redis集群将无法正常工作,需要在新主节点恢复之前维护。
  3. Redis从节点已过期并被重新启动。在这种情况下,Redis集群将无法自动升级并需要手动修复。

下面是使用Python Redis模块redis-py实现Redis主节点宕机时从节点升级的示例。在此示例中,如果主节点不可用,则从节点将升级为新的主节点,并从主节点复制最新的数据。


在以上代码中,我们设置了主节点和从节点,并使用replicaof命令将从节点设置为复制主节点的方式。主节点将“key”设置为“value”。

然后我们模拟主节点宕机并在从节点上查询手续费风格主节点的状态。如果主节点不可用,则从节点将升级为新的主节点,并使用noone()命令将其设置为非从节点状slaveof_n态。

最后,我们在新松材线虫主节点上读取“key”以确保数据已成功复制,并且可以从新主节点中恢复数据。

请注意,在实际生产环境中,sRedis高可用性需要考虑更多的因素和策略,如持久化、数据同步、容错恢复机制等。

我在myredis目录下创建了3个文件,并为每个文件设置了如下内容:

  1. sentinel26379.conf

Copy code

bind 0.0.0.0

daemonize yes

protected-mode no

开始模拟主节点宕机

while True:

try:

# 尝试使用主节点执行操作

master_conn.ping()

except redis.exceptions.ConnectionError:

# 如果主节点不可用,从节点将升级为新的主节点

print("Master node is down. Promoting slave to master.")

break

time.sleep(1)

# 将从节点升级为新的主节点

port 26379

logfile "./myredisentinel26379.log"

pidfile /var/run/redis-sentin0.0.0

daemonize yes

protected-mode el26379.pid

dir ./myredis

sentinel moitr mymaster 127.0.0.1 6379 2

sentinel auth-pass mymaster 1234

  1. sentinel26380.conf

Copy code

bind 0.0.0.0

daemonize yes

protected-mode no

port 26380

logfile "./redis/sentinel26380.log"

pidfile /var/rnedisntinel26380.pid

dir ./myred

sentinel monitor mymaster 127.0.0.1 6379 2

sentinel autpasmymater234/yr/sentinel26380.log"

pidfile /var/ru/myred/sentinel26380.log"

pidfiler/ru

  1. sentinel26381.conf

Copy code

bind 0.0.0.0

daemonize yes

protected-mode no

port 26381

logfile "./myredis/sentinel26381.log"

pidfile /var/run/redis-sentinel26381.pid

dir ./myredis

sentinel monitor mymaster 127.0.0.1 6379 2

sentinel auth-pass mymaster 1234

这些配置文件将监视名为“mymaster”的Redis主节点(IP地址为127.0.0.1和端口为6379),并指定了身份证密码为“1234”。这些配置还设置了日志文件路径、pid文件路径以及端口号和绑定地址。我们需要将将这些文件保存在myredis目录中,以便后续操作。

我们当时在配置文件的时候加入了哨兵机制。

当一个哨兵在规定时间内没有收到主机的恢复通知,他就会向其他哨兵发送命令,询问他们有没有收到主机恢复的消息。然后投票,如果票数达到了我们在配置文件当中的法定票数,那么这个时候主节点就会被该哨兵标记为客观下线了。

哨兵可以在判断主节点客观下线后,从剩下的主节点中的选出一个作为新的主节点进行故障转移,这是哨兵机制带来的主要优点之一。哨兵还提供了高可用性解决方案,避免单点故障问题,自动化故障转移操作,以及灵活性和可扩展性等优点。

然而,哨兵也存在一定的缺点。由于需要部署多台机器,并进行配置和管理,哨兵会增加系统复杂度和难度。另外,哨兵需要进行定期检测和其他任务,可能对Redis集群的读写性能造成一定的损失。

哨兵实现过程需要涉及到Raft选举算法、主从架构、检测、自动化故障等技术,需要具备一定的分布式系统开发和架构设计经验,并且需要进行针对性的调优和性能测试,才能保证Redis集群的高可靠性和高性能。

哨兵的优点:

高可用性:哨兵提供了高可用性解决方案,可以避免Redis单点故障的问题。

自动化故障转移:哨兵可以自动检测到故障节点,并进行自动化的故障转移操作,提高了Redis集群的可靠性和稳定性。

灵活性:哨兵可以根据需要配置不同的监控和故障转移策略,以满足不同的需求。

可扩展性:哨兵支持多个哨兵协同工作,可以扩展到多台机器上,提高了可靠性和可扩展性。

哨兵的缺点:

架构复杂:哨兵需要部署多台机器,并进行配置和管理,增加了系统各个杂度和难度。

性能损失:哨防会对Redis集群的读写性能造成一定的损失,因为哨兵需要进行定期的心跳检测和其他任务。

哨兵实现过程需要涉及到Raft选举算法、主从架构、心跳检测、自动化故障切换等技术,需要具备一定的布式系统开发和架构设计经验,并且需要进行针对性的调优和性能测试,才能保证Redis集群的高可靠性和高性能。

相关推荐

订单超时自动取消业务的 N 种实现方案,从原理到落地全解析

在分布式系统架构中,订单超时自动取消机制是保障业务一致性的关键组件。某电商平台曾因超时处理机制缺陷导致日均3000+订单库存锁定异常,直接损失超50万元/天。本文将从技术原理、实现细节、...

使用Spring Boot 3开发时,如何选择合适的分布式技术?

作为互联网大厂的后端开发人员,当你满怀期待地用上SpringBoot3,准备在项目中大显身手时,却发现一个棘手的问题摆在面前:面对众多分布式技术,究竟该如何选择,才能让SpringBoot...

数据库内存爆满怎么办?99%的程序员都踩过这个坑!

你的数据库是不是又双叒叕内存爆满了?!服务器监控一片红色警告,老板在群里@所有人,运维同事的电话打爆了手机...这种场景是不是特别熟悉?别慌!作为一个在数据库优化这条路上摸爬滚打了10年的老司机,今天...

springboot利用Redisson 实现缓存与数据库双写不一致问题

使用了Redisson来操作Redis分布式锁,主要功能是从缓存和数据库中获取商品信息,以下是针对并发时更新缓存和数据库带来不一致问题的解决方案1.基于读写锁和删除缓存策略在并发更新场景下,...

外贸独立站数据库炸了?对象缓存让你起死回生

上周黑五,一个客户眼睁睁看着服务器CPU飙到100%——每次页面加载要查87次数据库。这让我想起2024年Pantheon的测试:Redis缓存能把WooCommerce查询速度提升20倍。跨境电商最...

手把手教你在 Spring Boot3 里纯编码实现自定义分布式锁

为什么要自己实现分布式锁?你是不是早就受够了引入各种第三方依赖时的繁琐?尤其是分布式锁这块,每次集成Redisson或者Zookeeper,都得额外维护一堆配置,有时候还会因为版本兼容问题头疼半...

如何设计一个支持百万级实时数据推送的WebSocket集群架构?

面试解答:要设计一个支持百万级实时数据推送的WebSocket集群架构,需从**连接管理、负载均衡、水平扩展、容灾恢复**四个维度切入:连接层设计-**长连接优化**:采用Netty或Und...

Redis数据结构总结——面试最常问到的知识点

Redis作为主流的nosql存储,面试时经常会问到。其主要场景是用作缓存,分布式锁,分布式session,消息队列,发布订阅等等。其存储结构主要有String,List,Set,Hash,Sort...

skynet服务的缺陷 lua死循环

服务端高级架构—云风的skynet这边有一个关于云风skynet的视频推荐给大家观看点击就可以观看了!skynet是一套多人在线游戏的轻量级服务端框架,使用C+Lua开发。skynet的显著优点是,...

七年Java开发的一路辛酸史:分享面试京东、阿里、美团后的心得

前言我觉得有一个能够找一份大厂的offer的想法,这是很正常的,这并不是我们的饭后谈资而是每个技术人的追求。像阿里、腾讯、美团、字节跳动、京东等等的技术氛围与技术规范度还是要明显优于一些创业型公司...

mysql mogodb es redis数据库之间的区别

1.MySQL应用场景概念:关系型数据库,基于关系模型,使用表和行存储数据。优点:支持ACID事务,数据具有很高的一致性和完整性。缺点:垂直扩展能力有限,需要分库分表等方式扩展。对于复杂的查询和大量的...

redis,memcached,nginx网络组件

1.理解阻塞io,非阻塞io,同步io,异步io的区别2.理解BIO和AIO的区别io多路复用只负责io检测,不负责io操作阻塞io中的write,能写多少是多少,只要写成功就返回,譬如准备写500字...

SpringBoot+Vue+Redis实现验证码功能

一个小时只允许发三次验证码。一次验证码有效期二分钟。SpringBoot整合Redis...

AWS MemoryDB 可观测最佳实践

AWSMemoryDB介绍AmazonMemoryDB是一种完全托管的、内存中数据存储服务,专为需要极低延迟和高吞吐量的应用程序而设计。它与Redis和Memcached相似,但具有更...

从0构建大型AI推荐系统:实时化引擎从工具到生态的演进

在AI浪潮席卷各行各业的今天,推荐系统正从幕后走向前台,成为用户体验的核心驱动力。本文将带你深入探索一个大型AI推荐系统从零起步的全过程,揭示实时化引擎如何从单一工具演进为复杂生态的关键路径。无论你是...

取消回复欢迎 发表评论: