百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

用Percona将阿里云RDS数据迁移至自建的MySQL8.0的过程

mhr18 2024-10-11 12:52 26 浏览 0 评论

前言:

记录一次,从阿里云RDS(MySQL8.0)至自建的MySQL8.0的数据迁移过程,认识到了Percona XtraBackup的强大与好用。

本手册参考阿里云文档下,附加森哥自己操作过程整理而成的。

参考资料:RDS MySQL 物理备份文件恢复到自建数据库

系统及应用环境:

操作系统:CentOS 7.6 X64

数据库:MySQL 8.0

备份软件:Percona XtraBackup 8.0

在目标服务器上,安装MySQL 8.0以及Percona XtraBackup 8.0

Percona XtraBackup 8.0安装文档:Installing Percona XtraBackup

yum install https://repo.percona.com/yum/percona-release-latest.noarch.rpm
percona-release enable-only tools release
yum install percona-xtrabackup-80
yum install -y qpress

执行xtrabackup解压命令时,会用到qpress,这里就先预装好。

准备源数据

下载AliyunRDS物理备份文件,备份文件的格式为:.xb文件

数据下载到目标服务器上。

重要通知:源数据库,目前暂不能有过 exchange partition之类的操作。这是percona目前存在着的bug问题,未来,应该会被修复。

开始恢复数据

## 解包
cat <数据备份文件名>_qp.xb | xbstream -x -v -C /data/mysqlback
?
## MySQL 8.0解压
xtrabackup --decompress --remove-original --target-dir=/data/mysqlback    

执行查看命令:

ls -rtl /data/mysqlback

执行如下命令,恢复解压好的备份文件。

xtrabackup --prepare --target-dir=/data/mysqlback

重要说明 ,若是您的数据库存在分区表,在执行这一条命令的时候,将会出错,这个是Percona软件本身存在的bug,未来应该会被修复。建议将该库先移出去再执行。

完成后,得到如处结果:

xtrabackup --datadir=/data/mysql2 --copy-back --target-dir=/data/mysqlback

直至执行完成后,即可进行最后的操作。在这个过程中,原来数据库的账户与密码,将会一并带入,不需要再想去修改其他密码,当然了,为了防万一,森哥在后面也会提到如何重置密码的操作。

注意的是:目标目录需为空,即:/data/mysql2 这个目录,建议使用新的路径。

这里有遇到一点小问题,在阿里云提供的文档上面,原先提供的文档有误,包括售后刚开始回答的也一样的问题。结果就半夜的时候,他们就及时更新了文档,不过我已被这个折腾了一整天。后面是上后台提问,来回几个回合他们,他们可能也意识到自己的错误及时更新了文档。如下图:

更新前:

更新后:

收尾工作

将备份中提供的backup-my.cnf与本地的my.cnf进行整合,下面为森哥自己整合的结果,仅供参考。

[root@kube-worker9 mysql]# cat /etc/my.cnf
# For advice on how to change settings please see
# http://dev.mysql.com/doc/refman/8.0/en/server-configuration-defaults.html
?
[mysqld]
#
# Remove leading # and set to the amount of RAM for the most important data
# cache in MySQL. Start at 70% of total RAM for dedicated server, else 10%.
# innodb_buffer_pool_size = 128M
#
# Remove the leading "# " to disable binary logging
# Binary logging captures changes between backups and is enabled by
# default. It's default setting is log_bin=binlog
# disable_log_bin
#
# Remove leading # to set options mainly useful for reporting servers.
# The server defaults are faster for transactions and fast SELECTs.
# Adjust sizes as needed, experiment to find the optimal values.
# join_buffer_size = 128M
# sort_buffer_size = 2M
# read_rnd_buffer_size = 2M
#
# Remove leading # to revert to previous value for default_authentication_plugin,
# this will increase compatibility with older clients. For background, see:
# https://dev.mysql.com/doc/refman/8.0/en/server-system-variables.html#sysvar_default_authentication_plugin
# default-authentication-plugin=mysql_native_password
?
?
#datadir=/var/lib/mysql
datadir=/data/mysql2
socket=/var/lib/mysql/mysql.sock
?
max_connections=2000
mysqlx_max_connections=2000
lower_case_table_names=1
transaction_isolation=READ-COMMITTED
?
max_allowed_packet = 100000M
wait_timeout=2880000
interactive_timeout = 2880000
?
innodb_checksum_algorithm=crc32
innodb_log_checksums=1
innodb_data_file_path=ibdata1:12M:autoextend
innodb_log_files_in_group=2
innodb_log_file_size=1572864000
innodb_page_size=16384
#innodb_undo_directory=./
#innodb_undo_tablespaces=2
server_id=2446206122
innodb_log_checksums=ON
innodb_redo_log_encrypt=OFF
innodb_undo_log_encrypt=OFF
#server_uuid=67b959f8-c5a1-11e9-8ab2-48d53963e04b
#master_key_id=0
?
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
?
#innodb_log_file_size=60M
#innodb_buffer_pool_size=1024M

要注意的是:innodb_data_file_path=ibdata1:12M:autoextend 这句中的数值 ,若mysql无法正常启动,查看日志,遇到ibdata1的错误,经查ibdata1的大小为12M,故将其中改为12M,即可正常运行。

由于森哥是使用yum install -y mysql-server,故不支持下面这两句,直接注释掉即可:

#innodb_undo_directory=./
#innodb_undo_tablespaces=2

下面这两句是RDS上的相关配置。与我本地无法兼容,故也注释掉。

#server_uuid=67b959f8-c5a1-11e9-8ab2-48d53963e04b
#master_key_id=0

现在,对新的数据库的数据文件夹进行设置权限。

chown -R mysql:mysql /data/mysql2
chmod -R 755 /data/mysql2

重启mysql。若是正常,那就进下一步的root密码重置。

systemctl start mysqld

在my.cnf的[mysqld]中加入skip-grant-tables,最后结果如下:

#datadir=/var/lib/mysql
datadir=/data/mysql2
socket=/var/lib/mysql/mysql.sock
?
skip-grant-tables
?
max_connections=2000
mysqlx_max_connections=2000
lower_case_table_names=1
transaction_isolation=READ-COMMITTED

然后重启一下mysql后,即可直接进入,直接将root密码设置为空。

mysql -u
[root@kube-worker9 data]# mysql -u root
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 8
Server version: 8.0.16 MySQL Community Server - GPL
?
Copyright (c) 2000, 2019, Oracle and/or its affiliates. All rights reserved.
?
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
?
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
?
mysql> use mysql;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A
?
mysql> update user set authentication_string = '' where user = 'root';
Query OK, 0 rows affected (0.02 sec)
Rows matched: 0  Changed: 0  Warnings: 0
?
mysql> FLUSH PRIVILEGES;
Query OK, 0 rows affected (0.01 sec)
?
mysql> \q
Bye

去掉my.cnf的[mysqld]中加入skip-grant-tables后再重启mysql

接着使用重启进入数据库是为root用户设置密码。

mysql -u root -p
ALTER USER 'root'@'localhost' IDENTIFIED BY '三种或以上的八位字符';

至于,利用Percona XtraBackup实现数据还原的整个过程结束。可以交付使用。

相关推荐

订单超时自动取消业务的 N 种实现方案,从原理到落地全解析

在分布式系统架构中,订单超时自动取消机制是保障业务一致性的关键组件。某电商平台曾因超时处理机制缺陷导致日均3000+订单库存锁定异常,直接损失超50万元/天。本文将从技术原理、实现细节、...

使用Spring Boot 3开发时,如何选择合适的分布式技术?

作为互联网大厂的后端开发人员,当你满怀期待地用上SpringBoot3,准备在项目中大显身手时,却发现一个棘手的问题摆在面前:面对众多分布式技术,究竟该如何选择,才能让SpringBoot...

数据库内存爆满怎么办?99%的程序员都踩过这个坑!

你的数据库是不是又双叒叕内存爆满了?!服务器监控一片红色警告,老板在群里@所有人,运维同事的电话打爆了手机...这种场景是不是特别熟悉?别慌!作为一个在数据库优化这条路上摸爬滚打了10年的老司机,今天...

springboot利用Redisson 实现缓存与数据库双写不一致问题

使用了Redisson来操作Redis分布式锁,主要功能是从缓存和数据库中获取商品信息,以下是针对并发时更新缓存和数据库带来不一致问题的解决方案1.基于读写锁和删除缓存策略在并发更新场景下,...

外贸独立站数据库炸了?对象缓存让你起死回生

上周黑五,一个客户眼睁睁看着服务器CPU飙到100%——每次页面加载要查87次数据库。这让我想起2024年Pantheon的测试:Redis缓存能把WooCommerce查询速度提升20倍。跨境电商最...

手把手教你在 Spring Boot3 里纯编码实现自定义分布式锁

为什么要自己实现分布式锁?你是不是早就受够了引入各种第三方依赖时的繁琐?尤其是分布式锁这块,每次集成Redisson或者Zookeeper,都得额外维护一堆配置,有时候还会因为版本兼容问题头疼半...

如何设计一个支持百万级实时数据推送的WebSocket集群架构?

面试解答:要设计一个支持百万级实时数据推送的WebSocket集群架构,需从**连接管理、负载均衡、水平扩展、容灾恢复**四个维度切入:连接层设计-**长连接优化**:采用Netty或Und...

Redis数据结构总结——面试最常问到的知识点

Redis作为主流的nosql存储,面试时经常会问到。其主要场景是用作缓存,分布式锁,分布式session,消息队列,发布订阅等等。其存储结构主要有String,List,Set,Hash,Sort...

skynet服务的缺陷 lua死循环

服务端高级架构—云风的skynet这边有一个关于云风skynet的视频推荐给大家观看点击就可以观看了!skynet是一套多人在线游戏的轻量级服务端框架,使用C+Lua开发。skynet的显著优点是,...

七年Java开发的一路辛酸史:分享面试京东、阿里、美团后的心得

前言我觉得有一个能够找一份大厂的offer的想法,这是很正常的,这并不是我们的饭后谈资而是每个技术人的追求。像阿里、腾讯、美团、字节跳动、京东等等的技术氛围与技术规范度还是要明显优于一些创业型公司...

mysql mogodb es redis数据库之间的区别

1.MySQL应用场景概念:关系型数据库,基于关系模型,使用表和行存储数据。优点:支持ACID事务,数据具有很高的一致性和完整性。缺点:垂直扩展能力有限,需要分库分表等方式扩展。对于复杂的查询和大量的...

redis,memcached,nginx网络组件

1.理解阻塞io,非阻塞io,同步io,异步io的区别2.理解BIO和AIO的区别io多路复用只负责io检测,不负责io操作阻塞io中的write,能写多少是多少,只要写成功就返回,譬如准备写500字...

SpringBoot+Vue+Redis实现验证码功能

一个小时只允许发三次验证码。一次验证码有效期二分钟。SpringBoot整合Redis...

AWS MemoryDB 可观测最佳实践

AWSMemoryDB介绍AmazonMemoryDB是一种完全托管的、内存中数据存储服务,专为需要极低延迟和高吞吐量的应用程序而设计。它与Redis和Memcached相似,但具有更...

从0构建大型AI推荐系统:实时化引擎从工具到生态的演进

在AI浪潮席卷各行各业的今天,推荐系统正从幕后走向前台,成为用户体验的核心驱动力。本文将带你深入探索一个大型AI推荐系统从零起步的全过程,揭示实时化引擎如何从单一工具演进为复杂生态的关键路径。无论你是...

取消回复欢迎 发表评论: