Canal环境下，MySQL同步到Oracle串列问题的解决和控制
mhr18 2024-09-14 05:28 25 浏览 0 评论
1、造成串列的原因有几个:
1)、binlog的日志只是记录了列索引
2)、增删列都会改变列索引和列名的映射关系
3)、同步工具canal只在启动时dump table meta, 换句话说, 就是将列索引和列名映射缓存到内存里
4)、同步工具canal在解析binlog日志时并行的, 由于线程安全问题, 没有在遇到ddl语句时, 更新缓存中的 table meta.
性能和完全规避串列不可兼得, 一般的设计者认为 ddl 是不频繁的. 因此为了减少串列的发生, canal使用了时序表结构方案设计, 即TableMetaTSDB.
开启tsdb后, 当新增字段后, canal会抛出异常: column size is not match for table. 此时, 便需要手动重启canal. 但是binlog一旦出现堆积, 且新增的字段列不是在最后, 仍然会导致串列.
为了解决手动重启的问题, canal又提供了定时任务更新缓存里的table meta 和 table meta缓存过期机制. 为了减少串列的发生, 该定时任务的默认时间是24小时, 缓存过期时间是 360小时.
这就显得很鸡肋了.
下图是binlog的日志格式:
2、串列最终导致的结果
源库和目标库的数据不一致.
3、可能引起串列 或者 导致数据不一致 的几个操作:
1)、新增列的位置不在最后. 在操作新增列时, 一旦binlog数据堆积, 重启canal, 必然串列.
2)、新增列的位置在最后, 但是前面的列有删除. 在操作上述操作时, 一旦binlog数据堆积, 重启canal, 必然串列.
3)、删除列. 在操作删除列时, 一旦binlog数据堆积, 重启canal, 该部分binlog解析时可能提示列索引找不到对应列名而被丢弃, 最终导致数据不一致.
4、如何控制串列、 数据一致性、手动重启.
1)、控制串列可以从ddl审计流程上控制, 不允许删除列, 不允许在中间新增列.
2)、控制数据一致性, 从目前的监控手段来看, 只能对比到异构数据库的数据量, 无法对比源库和目标库所有的列值是否一致.
3)、在不串列的情况下, 不重启canal, 可以有以下操作保证:
a、binlog解析改为串行;
b、修改canal源代码 , 在处理ddl语句和抛异常时: column size is not match for table, 触发更新缓存中的 table meta;
c、串行性能出现瓶颈时, 针对出现性能瓶颈的表或者schema, 独享instance.
相关推荐
- 如何检查 Linux 服务器是物理服务器还是虚拟服务器?
-
在企业级运维、故障排查和性能调优过程中，准确了解服务器的运行环境至关重要。无论是物理机还是虚拟机，都存在各自的优势与限制。在很多场景下，尤其是当你继承一台服务器而不清楚底层硬件细节时，如何快速辨识它是...
- 第四节 Windows 系统 Docker 安装全指南
-
一、Docker在Windows上的运行原理（一）架构限制说明Docker本质上依赖Linux内核特性（如Namespaces、Cgroups等），因此在Windows系统上无法直...
- C++ std:shared_ptr自定义allocator引入内存池
-
当C++项目里做了大量的动态内存分配与释放，可能会导致内存碎片，使系统性能降低。当动态内存分配的开销变得不容忽视时，一种解决办法是一次从操作系统分配一块大的静态内存作为内存池进行手动管理，堆对象内存分...
- Activiti 8.0.0 发布，业务流程管理与工作流系统
-
Activiti8.0.0现已发布。Activiti是一个业务流程管理(BPM)和工作流系统，适用于开发人员和系统管理员。其核心是超快速、稳定的BPMN2流程引擎。Activiti可以...
- MyBatis动态SQL的5种高级玩法，90%的人只用过3种
-
MyBatis动态SQL在日常开发中频繁使用，但大多数开发者仅掌握基础标签。本文将介绍五种高阶技巧，助你解锁更灵活的SQL控制能力。一、智能修剪（Trim标签）应用场景：动态处理字段更新，替代<...
- Springboot数据访问(整合Mybatis Plus)
-
Springboot整合MybatisPlus1、创建数据表2、引入maven依赖mybatis-plus-boot-starter主要引入这个依赖，其他相关的依赖在这里就不写了。3、项目结构目录h...
- 盘点金州勇士在奥克兰13年的13大球星 满满的全是...
-
见证了两个月前勇士与猛龙那个史诗般的系列赛后，甲骨文球馆正式成为了历史。那个大大的红色标志被一个字母一个字母地移除，在周四，一切都成为了过去式。然而这座，别名为“Roaracle”（译注：Roar怒吼...
- Mybatis入门看这一篇就够了（mybatis快速入门）
-
什么是MyBatisMyBatis本是apache的一个开源项目iBatis,2010年这个项目由apachesoftwarefoundation迁移到了googlecode，并且改名为M...
- Springboot数据访问(整合druid数据源)
-
Springboot整合druid数据源基本概念SpringBoot默认的数据源是：2.0之前：org.apache.tomcat.jdbc.pool.DataSource2.0及之后:com.z...
- Linux 中的 "/etc/profile.d" 目录有什么作用 ?
-
什么是/etc/profile.d/目录？/etc/profile.d/目录是Linux系统不可或缺的一部分保留配置脚本。它与/etc/profile文件相关联，这是一个启动脚本，该脚...
- 企业数据库安全管理规范（企业数据库安全管理规范最新版）
-
1.目的为规范数据库系统安全使用活动，降低因使用不当而带来的安全风险，保障数据库系统及相关应用系统的安全，特制定本数据库安全管理规范。2.适用范围本规范中所定义的数据管理内容，特指存放在信息系统数据库...
- Oracle 伪列!这些隐藏用法你都知道吗?
-
在Oracle数据库中，有几位特殊的“成员”——伪列，它们虽然不是表中真实存在的物理列，但却能在数据查询、处理过程中发挥出意想不到的强大作用。今天给大家分享Oracle伪列的使用技巧，无论...
- Oracle 高效处理数据的隐藏神器:临时表妙用
-
各位数据库搬砖人，在Oracle的代码世界里闯荡，处理复杂业务时，是不是总被数据“搅得头大”？今天给大家安利一个超实用的隐藏神器——临时表！当你需要临时存储中间计算结果，又不想污染正式数据表...
- Oracle 数据库查询:多表查询（oracle多表关联查询）
-
一、多表查询基础1.JOIN操作-INNERJOIN：返回两个表中满足连接条件的匹配行，不保留未匹配数据。SELECTa.emp_id,b.dept_nameFROMempl...
- 一文掌握怎么利用Shell+Python实现多数据源的异地备份程序
-
简介：在信息化时代，数据安全和业务连续性已成为企业和个人用户关注的焦点。无论是网站数据、数据库、日志文件，还是用户上传的文档、图片等，数据一旦丢失，损失难以估量。尤其是当数据分布在多个不同的目录、服务...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 如何检查 Linux 服务器是物理服务器还是虚拟服务器?
- 第四节 Windows 系统 Docker 安装全指南
- C++ std:shared_ptr自定义allocator引入内存池
- Activiti 8.0.0 发布，业务流程管理与工作流系统
- MyBatis动态SQL的5种高级玩法，90%的人只用过3种
- Springboot数据访问(整合Mybatis Plus)
- 盘点金州勇士在奥克兰13年的13大球星 满满的全是...
- Mybatis入门看这一篇就够了（mybatis快速入门）
- Springboot数据访问(整合druid数据源)
- Linux 中的 "/etc/profile.d" 目录有什么作用 ?
- 标签列表
-
- oracle位图索引 (74)
- oracle基目录 (50)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (53)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)