百度360必应搜狗淘宝本站头条
php redisredis 命令redis 锁redis 主从redis 删除
当前位置：网站首页 > 技术教程 > 正文

用java玩转mysql主从备份机制之binlog

mhr18 2024-09-15 21:46 59 浏览 0 评论

前言碎语

早期，阿里巴巴B2B公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于trigger的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，产出了canal项目。canal的原理很简单，就是如上图片所示

  • canal模拟mysql slave的交互协议，伪装自己为mysql slave，向mysql master发送dump协议

  • mysql master收到dump请求，开始推送binary log给slave(也就是canal)

  • canal解析binary log对象(原始为byte流)

但是今天博主要分享的不是canal，上面只是作为一个引子，因为canal的使用还是比较复杂，不仅需要客户端写消费逻辑，还需要部署一套canal的server端，server还依赖的zookeeper组件。所以，今天博主先来介绍一个超级简单mysql binlog消费组件来预热预热，看文章反响，如果有需要后面会继续canal和更加产品级的项目otter。

什么是binlog？

binlog基本定义：二进制日志，也成为二进制日志，记录对数据发生或潜在发生更改的SQL语句，并以二进制的形式保存在磁盘中；

mysql中的binlog？

MySQL的binlog作用类似于Oracle的归档日志，可以用来查看数据库的变更历史（具体的时间点所有的SQL操作）、数据库增量备份和恢复（增量备份和基于时间点的恢复）、Mysql的复制（主主数据库的复制、主从数据库的复制）

开启mysql的binlog？

log-bin=mysql-bin #添加这一行就ok

binlog-format=row #选择row模式

server_id=1 #配置mysql replaction需要定义，不能和canal的slaveId重复

在mysql的my.ini配置文件中加上如上配置后重启mysql

验证是否开启binlog？

bog_bin为NO表示数据库已开启

创建项目，加入binlog消费组件？

<dependency>
 <groupId>com.github.shyiko</groupId>
 <artifactId>mysql-binlog-connector-java</artifactId>
 <version>0.9.0</version>
</dependency>

连接mysql，监听数据库操作？

数据库sql测试脚本？

回到程序看到已经监听到数据库操作了

典型的应用场景

除了很多主从备份，主从复制等产品外，应用在同步msyql数据库数据到ElasticSearch，solr等索引引擎等使用也是非常的nice啊

文末彩蛋

往期精彩内容回顾

(1)IDEA之dubbo注册中心zookeeper可视化插件

(2)java基于redis客户端redisson的RPC远程服务调用

(3) java搜索引擎Apache的solr初探-安装使用导入mysql数据

(4) SQL解析优化神器-SQLAdvisor

(5)spring boot集成WebSocket实时输出日志到web页面

没关注可以关注一波，后面还会陆续发布更多java等web领域开发相关的精彩内容哦

相关推荐

C++开发必知的内存问题及常用的解决方法-经典文章

1.内存管理功能问题由于C++语言对内存有主动控制权，内存使用灵活和效率高，但代价是不小心使用就会导致以下内存错误：omemoryoverrun：写内存越界odoublefree：同一块内...

缓存用不好，系统崩得早!10条军规让你成为缓存高手

凌晨三点，我被电话惊醒：“苏工！首页崩了！”监控显示：缓存命中率0%，数据库QPS10万+，线程阻塞2000+。根本原因竟是同事没加缓存！不会用缓存的程序员，就像不会刹车的赛车手——...

彻底搞清楚内存泄漏的原因，如何避免内存泄漏，如何定位内存泄漏

作为C/C++开发人员，内存泄漏是最容易遇到的问题之一，这是由C/C++语言的特性引起的。C/C++语言与其他语言不同，需要开发者去申请和释放内存，即需要开发者去管理内存，如果内存使用不当，就容易造成...

Java中间件-Memcached（Java中间件大全）

一、知识结构及面试题目分析缓存技术的大规模使用是互联网架构区别于传统IT技术最大的地方，是整体高并发高性能架构设计中是重中之重的关键一笔，也是互联网公司比较偏好的面试题目。按照在软件系统中所处位置...

linux内存碎片防治技术（linux内存碎片整理）

推荐视频：90分钟了解Linux内存架构，numa的优势，slab的实现，vmalloc原理剖析Linux内核内存分配与回收Linuxkernel组织管理物理内存的方式是buddysystem（伙...

Redis主从架构详解（redis主从配置详细过程）

Redis主从架构搭建Redis主节点配置创建主节点目录（/opt/redis-master），复制redis.conf到该目录下，redis.conf配置项修改#后台启动daemonizeyes...

揭开CXL内存的神秘面纱（内存c1）

摘要：现代数据中心对内存容量的高需求促进了内存扩展和分解方面的多条创新线，其中一项获得极大关注的工作是基于ComputeeXpressLink（CXL）的内存扩展。为了更好地利用CXL，研究人员建...

一文彻底弄懂 TPS RPS QPS（tps cps）

以下是关于RPS、QPS、TPS的核心区别与关联的总结，结合实际场景和优化建议：一、核心定义与区别RPS：RequestsPerSecond每秒请求数客户端到服务器的完整请求数量Web服务...

用Redis的“集合”找出你和朋友的“共同关注”

你是不是在刷抖音、微博、小红书的时候，常常会看到这样的提示：“你和XXX有共同关注的博主/朋友”？或者当你关注了一个新的明星，系统会推荐“你的朋友YYY也关注了这位明星”？这个看似简单的功能背后，其实...

WOT2016彭哲夫:科班出身开发者对运维人员的期许

“运维与开发”是老生常谈的话题，前几天和一个运维人聊天，TA说一些公司运维岗位都不公开招聘了，这让众多运维人员情何以堪？是运维的岗位真的饱和了？是找到合适的运维人才难？还是有这样那样的因素？带着这些疑...

Java程序员最常用的20%技术总结（java程序员要掌握什么）

我听说编程语言，经常使用的是其中20％的技术。在Java这门语言中，这20％包括哪些内容？找到一份Java初级程序员的工作，有哪些是必须掌握的，有哪些是可以现学现卖的？一个完整的Javaweb项目，有...

秒杀系统实战(四)| 缓存与数据库双写一致性实战

前言微笑挖坑，努力填坑。————已经拥有黑眼圈，但还没学会小猪老师时间管理学的蛮三刀同学本文是秒杀系统的第四篇，我们来讨论秒杀系统中「缓存热点数据」的问题，进一步延伸到数据库和缓存的...

头条评论精灵翻牌子（头条评论精灵翻牌子怎么弄）

关于“头条评论精灵翻牌子”功能，这通常是指平台通过算法或运营手段，将用户的优质评论随机或定向推送到更显眼的位置（如信息流顶部、独立曝光位等），以提升互动率和用户参与感。以下是详细解析和建议：一、功能理...

15个程序员们都应该知道的大模型高级提示词指令模板和示例

作为程序员你如何写大模型指令？你写的指令是不是更专业呢？下面是15个程序员使用的专业的大模型指令，如果早知道可以能节省你很多时间。这些指令可以用在chatgpt,deepseek等大模型。1.一键...

MyBatis-Plus内置的主键生成策略有大坑，要注意!

昨天小伙伴使用Mybaits-Plus开发的项目线上（集群、K8S）出现了主键重复问题，其报错如下：Mybatis-Plus启动时会通过com.baomidou.mybatisplus.core.to...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表