百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

揭秘陆金所去 Oracle 过程:18 个月将 90% 数据库业务换到 MySQL

mhr18 2025-02-09 13:27 25 浏览 0 评论

陆金所目前已经完成全站 90% 以上的去 Oracle 工作,并且将在 6 月底前下线最后一台 Oracle。他们是怎么做到的?

在搜集企业去 Oracle 实践的过程中,我们发现很多企业都会依赖于云厂商或者其它已经去 Oracle 成功企业的帮助,真正凭借自己力量去 Oracle 的企业并不多。而今天我们介绍的去 Oracle 案例,恰恰就是凭借自己力量去 Oracle 的一家企业,这家企业是陆金所。

陆金所去 Oracle 实践开始于 2018 年年中,历时 18 个月,将全站 90% 的数据库、数千张表从 Oracle 无缝切换至 MySQL。InfoQ 记者为此独家采访陆金所去 Oracle 实践的负责人王英杰,试图为大家还原全过程。

陆金所的业务场景与去 Oracle 节奏

陆金所的去 Oracle 从 2018 年年中开始启动,涉及大几百个子系统,总数据量超过 PB 级,去除的 Oracle 数据库覆盖基金、网贷、信托、资管、银行理财、证 券、保险、主账户等全金融场景,全程使用自动化平台管控和推荐去 Oracle 实践。

据王英杰介绍,“陆金所全部的研发和技术运营部门都参与了全站去 Oracle,至少有 500 人以上的开发、测试和运维工程师参与其中。”

如果从整个实践过程来看,陆金所去 Oracle 实践有三个比较关键的阶段:

  • 一是通过边缘系统进行方案验证阶段;
  • 二是去”O“自动化工具平台构建和优化阶段;
  • 三是全自动化标准化去”O“落地阶段。

去 Oracle 方案的选择

与大多数企业去 Oracle 的原因相同,陆金所选择去 Oracle 也是因为原有的 Oracle 数据库架构扩展性很差,并且 Oracle 软件授权费用太高,无法支撑陆金所从 2013 年到现在交易量井喷式暴增下的业务需求。

另外,随着陆金所业务逐步扩展为基金、网贷、信托、私募、AI 理财、保险、银行等全金融业务线,原来的 Oracle 数据库不仅在容量上无法支持全金融业务场景,而且在监管上也不一定合规。

在去 Oracle 之前,陆金所对全站所有应用场景的各个接口和 SQL 进行了逐一审核,评定替代方案。结果选定了以 MySQL 作为主替代数据库,同时因为 MySQL 无法支撑 Oracle 的所有场景,还引入了 Elasticsearch、Redis、TiDB、HBase 等多种存储引擎,充分发挥这些存储引擎在各自场景下的优势,从而重构出一个合理的数据库架构来无缝替换 Oracle。

陆金所现在的数据库架构

陆金所对于去 Oracle 的核心诉求是在外部用户不感知的情况下,更换掉核心数据库。因此,陆金所研发了一套数据同步工具,以表为粒度,把 MySQL 作为 Oracle 的备库,实时同步 Oracle 的 DDL 和 DML 变更。同时在应用层实现 Oracle 和 MySQL 两套访问数据库的 DAO 层,以及开关模式的动态数据源,便于流量在 Oracle 和 MySQL 之间快速切换,在确保流量切换到 MySQL 之后,

数据还能够反向向 Oracle 同步,保证数据一致性。

去 Oracle 的准备工作:按域拆分

为了顺利完成去 Oracle 工作,陆金所在 2016 年到 2018 年期间进行了数据库的按域拆分。据王英杰介绍,按域拆分的主要目的有三个,分别是:

  • 细粒度拆分数据库、分片化,实现数据库容量的水平扩展;
  • 应用解耦、服务化,让应用访问数据库的调用更加清晰和规范;
  • 严禁应用跨域访问数据库,严禁数据库之间产生数据交互,从业务角度呈现出一个更加完善的数据库架构。

整个按域拆分过程中比较大的难点是大事务拆分和多表关联复杂查询。王英杰表示:“单库上原有的大事务拆分后是通过应用层的分布式事务机制在多库上实现,而单库上原有的多表关联复杂查询在拆分之后,是在应用层实现或在特殊场景中通过分布式存储引擎来支持。”

据了解,陆金所的数据库按域拆分主要有四个关键阶段:

  • 应用改造实现逻辑拆分:按表为粒度对大库的数据库对象进行梳理,把每张表归属于不同的应用域。在应用层根据梳理的结果对操作表的代码进行改造,包括:拆分复杂的大查询拆分庞大的事务操作表的代码全部封装在属主应用的代码中,非属主应用无法直接操作表,通过调用服务接口的方式实现非常规范的应用访问数据库的调用链。
  • 逻辑拆分完成后,以数据库的角度对应用改造的结果进行验证:在同一个物理库,使用逻辑 schema 的方式对数据库对象的授权进行调整,验证应用改造符合预期。
  • 数据库迁移和实时同步:逻辑层拆分验证完成后,通过实时同步把待拆分的数据库对象实时同步到另外一个物理库。上述所有改造步骤对应用层无感知。
  • 物理拆分和切换流量:源端和目标端保持实时同步后,在某个时间点推送配置并切换流量。整个过程最好有一套完善的自动化运维确保各个细节工作的无缝落地。流量切换操作,必须确保可以随时前滚和回滚。

去 Oracle 的具体实践

讲完去 Oracle 的方案和准备工作之后,接下来我们具体讲讲详细的替代过程。

去 Oracle 前后的数据库架构差异

在去 Oracle 之前,陆金所全站的金融 OLTP 业务场景都是由 Oracle 支撑的,而完成之后,全部的金融场景是由 MySQL 支撑,部分 Oracle 上的大事务也被优化成为了 MySQL 上的小事务。

值得注意的是,去 Oracle 完成之后,陆金所中 85% 的数据库查询请求都是简单的单表查询,15% 的关联查询都是比较简单的关联查询,而原先 Oracle 数据库中包含的复杂业务逻辑的多表关联也做了以下的优化:

  • 被拆解成简单查询,在代码层实现部分复杂的关联逻辑;
  • 通过陆金所的数据总线平台,把数据实时同步到 Elasticsearch 里,在 Elasticsearch 里实现复杂且高效的关联搜索;
  • 部分在 Oracle 读库上支撑的复杂业务逻辑查询(支持业务监控和实时对账等),通过数据总线平台同步到 TiDB 里,在 TiDB 里实现复杂的关联查询。

具体迁移过程

在真正去 Oracle 之前,陆金所先把 MySQL 作为对外提供服务的 Oracle 备库挂在了 Oracle 后面。与传统备库不同,从 Oracle 到 MySQL 的异构数据库备库,不需要实例级的数据同步,可以按表为粒度进行数据的实时同步。

陆金所整个去 Oracle 实践主要是依赖于其内部的去 Oracle 平台来落地的,在去 Oracle 平台上勾选需要同步的 Oracle 表,数据迁移工作就会自动完成。据介绍,陆金所智能化去 O 平台横跨代码改造到上线切换以及后期运维的全流程自动化保障和落地,其中主要包含的工具有:

  • Oracle SQL 代码自动转 MySQL SQL 代码工具
  • O to M 数据字典转化和管理工具
  • O to M 数据自动迁移和双写工具
  • 去 O 流量一键切换
  • 跨机房一键切换去 O 自愈工具

据王英杰介绍,在陆金所去 Oracle 平台中完成数据迁移的主要过程如下:

  • 首先去 Oracle 平台会解析 Oracle 表结构,并转化成 MySQL 表结构部署到 MySQL 上。之后,Oracle 有任何数据字典变更,去 Oracle 平台都会对 MySQL 进行同步;
  • 将 Oracle 的数据全量同步至 MySQL,因为 Oracle 库还在对外提供服务,所以会记录同步开始时间点,发生过变更的 Oracle 数据;
  • 在全量同步完成后,解析 Oracle 的 redo log,把同步期间发生过变更的数据进行增量追平;
  • 增量追平后,比对 Oracle 和 MySQL 每一笔记录和每一个字段的数据一致性,因为 Oracle 还处在不断更新中,去 Oracle 平台会使用增量补偿重试的方式不断对记录进行一致性校验;
  • 当 Oracle 和 MySQL 数据完全追平且校验一致后,去 Oracle 平台会开始尝试解析 MySQL binlog,建立从 MySQL 到 Oracle 的数据同步通道;
  • 因为 Oracle to MySQL 和 MySQL to Oracle 的双向数据同步链路都会被自动建立起来,为了防止数据回流,必须区分好是应用层写入的数据还是同步框架写入的数据,确保一份数据无论在 Oracle 还是 MySQL 提交,都会同步到对端,且仅写入一次。

据悉,陆金所核心业务去 Oracle 的时间大约是 6 个月,在这 6 个月中会出现应用中部分表读写流量在 Oracle、部分表读写在 MySQL 的中间状态,而这时陆金所的业务系统还会有大量的功能版本不断上线,如何平衡业务系统的版本上线和去 Oracle 的数据迁移呢?

王英杰表示:“为了降低业务功能改造和去 Oracle 架构改造之间高频交叉上线的风险,陆金所自研的 Bettle 系统实现了业务版本和去 Oracle 版本并行推进,且互相透明的重要功能。”

迁移完成之后,陆金所每 3 个月会通过数据库一键切换平台把全站数据库写库更换一次,一键切换平台在 180 秒完成全站数百套数据库的跨机房切换后,数千张表的 O 和 M 双写同步会自动重建,并确保数据一致性和完整性。

经验总结

作为去 Oracle 的实践者,王英杰也分享了他在整个实践过程中获得的感悟和经验,希望能对之后想要去 Oracle 的企业有所帮助。

  • 对于严苛的金融系统来说,去 Oracle 是个非常复杂的系统工程,涉及到开发、测试、架构和 DBA 等几乎全部技术部门的通力合作;
  • 整个去 Oracle 改造过程需要在各个阶段都总结出一套完善的方法论,确保各个细节改造工作能稳妥落地;
  • 需要有一套完善的去 Oracle 工具平台来落地整套方法论,让开发、测试和 DBA 在上面开展去 Oracle 工作,通过工具无缝衔接好这些团队在去 Oracle 改造中的协同工作,通过工具来确保从代码改造、到压测、到数据迁移、到流量切换等横跨多个团队、长周期的工作风险可控,效果如期。

嘉宾介绍:

王英杰,陆金所数据架构团队负责人,负责陆金所全站存储引擎运营和智能化工具研发。


关注我并转发此篇文章,私信我“领取资料”,即可免费获得InfoQ价值4999元迷你书!

相关推荐

SpringBoot 各种分页查询方式详解(全网最全)

一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...

《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略

《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...

LoadRunner(loadrunner录制不到脚本)

一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...

Redis数据类型介绍(redis 数据类型)

介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...

RMAN备份监控及优化总结(rman备份原理)

今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...

备份软件调用rman接口备份报错RMAN-06820 ORA-17629 ORA-17627

一、报错描述:备份归档报错无法连接主库进行归档,监听问题12541RMAN-06820:WARNING:failedtoarchivecurrentlogatprimarydatab...

增量备份修复物理备库gap(增量备份恢复数据库步骤)

适用场景:主备不同步,主库归档日志已删除且无备份.解决方案:主库增量备份修复dg备库中的gap.具体步骤:1、停止同步>alterdatabaserecovermanagedstand...

一分钟看懂,如何白嫖sql工具(白嫖数据库)

如何白嫖sql工具?1分钟看懂。今天分享一个免费的sql工具,毕竟现在比较火的NavicatDbeaverDatagrip都需要付费才能使用完整功能。幸亏今天有了这款SQLynx,它不仅支持国内外...

「开源资讯」数据管理与可视化分析平台,DataGear 1.6.1 发布

前言数据齿轮(DataGear)是一款数据库管理系统,使用Java语言开发,采用浏览器/服务器架构,以数据管理为核心功能,支持多种数据库。它的数据模型并不是原始的数据库表,而是融合了数据库表及表间关系...

您还在手工打造增删改查代码么,该神器带你脱离苦海

作为Java开发程序,日常开发中,都会使用Spring框架,完成日常的功能开发;在相关业务系统中,难免存在各种增删改查的接口需求开发。通常来说,实现增删改查有如下几个方式:纯手工打造,编写各种Cont...

Linux基础知识(linux基础知识点及答案)

系统目录结构/bin:命令和应用程序。/boot:这里存放的是启动Linux时使用的一些核心文件,包括一些连接文件以及镜像文件。/dev:dev是Device(设备)的缩写,该目录...

PL/SQL 杂谈(二)(pl/sql developer使用)

承接(一)部分。我们从结构和功能这两个方面展示PL/SQL的关键要素。可以看看PL/SQL的优雅的代码。写出一个好的代码,就和文科生写出一篇优秀的作文一样,那么赏心悦目。1、与SQL的集成PL/S...

电商ERP系统哪个好用?(电商erp哪个好一点)

电商ERP系统哪个好用?做电商的,谁还没被ERP折腾过?有老板说:“我们早就上了ERP,订单、库存、财务全搞定,系统用得飞起。”也有运营吐槽:“系统是上了,可库存老不准,订单漏单错单天天有,财务对账还...

汽车检测线系统实例,看集中控制与PLC分布控制

PLC可编程控制器,上个世纪70年代初,为取代早期继电器控制线路,开始采取存储指令方式,完成顺序控制而设计的。开始仅有逻辑运算、计时、计数等简单功能。随着微处理的发展,PLC可编程能力日益提高,已经能...

苹果五件套成公司年会奖品主角,几大小技巧教你玩转苹果新品

钱江晚报·小时新闻记者张云山随着春节的临近,各家大公司的年会又将陆续上演。上周,各大游戏公司的年会大奖,苹果五件套又成了标配。在上海的游戏公司中,莉莉丝奖品列表拉得相当长,从特等奖到九等奖还包含了特...

取消回复欢迎 发表评论: