百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

一次逻辑导入空间暴涨问题分析(空间数据的逻辑一致检查的方法)

mhr18 2024-10-05 17:49 17 浏览 0 评论

某客户一套11g RAC从AIX平台迁移到X86平台,全库数据量约为2.6T。此次测试迁移采用逻辑导入导出方法,在测试过程中没有出现任何报错,但目标端的数据量剧增,达到4.8T。老司机眉头一皱,觉得此事并不简单。逻辑迁移做了不下上百次,空间暴涨如此之大也还是头一回碰见,既然撞见了就必须要查明原因。

生产环境是AIX 7.1 11.2.0.3 RAC ASM,目标环境是Linux CentOS 6.8 11.2.0.4 RAC ASM。排查发现,生产库数据主要集中在一个用户,该用户在生产端数据量达2.2T,目标端达4.7T,于是我们把注意力放在了这个用户上,究竟是什么原因使得该用户迁移前后发生如此巨大的变化,让我们来一探究竟。

笔者主要从表空间定义数据库参数表结构定义三个方面去排查此次故障。

01

表空间定义

表空间定义是最容易让人怀疑的,目标端的表空间是在导入前人为创建的,那么会不会是生产端做了表空间级别的压缩,这里我选取了最大的表空间进行验证。

生产结果:

目标结果:

从表空间结构定义上不难看出,目标端与生产端并没有区别,这个猜测被否决。

02

数据库参数

数据库的大版本并未发生改变,从原来的11.2.0.3升级到11.2.0.4,参数并不会有太大变化,唯一涉及的就是导入初始化分配空间的参数延迟段创建:deferred_segment_creation。延迟段创建,顾名思义,就是表格创建的时候如果没有数据插入的情况下,就不会分配空间。所以这里只需要确认生产上该参数是否设置为false以及设置时间是否在对象创建之前即可。

生产端:

目标端:

从生产端告警日志发现:延迟段创建参数是2016年置为false的,而数据量巨大的用户2016年还未被创建,所以延迟段创建这个参数并不是此次空间暴涨的原因。

03

表结构定义

只剩下最后一个怀疑对象了,生产端随机选取了一张大表与目标端比对,表结构定义也没啥变化。

三种排查思路都被否决,问题分析一度陷入了僵局。接下来究竟该该何去何从。

作为一名资深DBA,怎么能轻易被困难折服~回到原点,从头开始。这时,对象类型的统计引起了我的注意。

以此为突破口,进一步统计业务用户的TABLE PARTITION类型对象的空间占用大小。

生产端:

目标端:

这里我发现SUMMARY_140_2_P3这张表导入导出前后变化量非常大,进一步排查:

再进一步排查:

此时问题已经很明显了,Oracle对于分区表空分区的分配大小上存在差异。在mos上搜索initial extent size in partition table

参考文档:Initial Extent Size of a Partition Changed to 8MB from 64KB After Upgrade to 11.2.0.2 or Later (Doc ID 1295484.1)

生产版本是11.2.0.3怎么会还是64KB呢,难道调整过版本参数,最后一步确认猜想:

此时问题已经柳暗花明,由于生产的版本参数还是11.2.0.0 创建对象分配extent size还是原来的64KB,而目标端为11.2.0.4初始化以为8M,当大量空分区创建时会导致空间暴涨。

对此,解决办法有两种:

方法一:修改隐含参数,将分区表和分区索引调回默认的64KB

alter system set "_partition_large_extents"=false scope=spfile sid='*';

alter system set "_index_partition_large_extents"=false scope=spfile sid='*';

方法二:还原延迟段创建

alter system set DEFERRED_SEGMENT_CREATION=false sid='*';

至此,此次逻辑导入空间暴涨问题已基本解决。

数据库版本11.2.0.2之前的创建对象分配extent size是64KB,11.2.0.2之后的创建对象分配extent size是8M,这意味着,同样的数据量导入时,创建对象分配extent size是8M的导入时间会比创建对象分配extent size是64KB的快,但空间消耗也会更大。

相关推荐

京东大佬问我,每天新增100w订单数据的分库分表方案

京东大佬问我,每天新增100w订单数据的分库分表方案嗯,用户问的是高并发订单系统的分库分表方案,每天新增100万订单。首先,我得理解需求。每天100万订单,那每秒大概是多少呢?算一下,100万除以86...

MySQL 内存使用构成解析与优化实践

在为HULK平台的MySQL提供运维服务过程中,我们常常接到用户反馈:“MySQL内存使用率过高”。尤其在业务高峰期,监控中内存占用持续增长,即便数据库运行正常,仍让人怀疑是否存在异常,甚至...

阿里云国际站:怎样计算内存优化型需求?

本文由【云老大】TG@yunlaoda360撰写一、内存优化型实例的核心价值内存优化型ECS实例专为数据密集型场景设计,具有以下核心优势:高内存配比:内存与CPU比例可达1:8(如ecs.re6....

MySQL大数据量处理常用解决方案

1、读写分离读写分离,将数据库的读写操作分开,比如让性能比较好的服务器去做写操作,性能一般的服务器做读操作。写入或更新操作频繁可以借助MQ,进行顺序写入或更新。2、分库分表分库分表是最常规有效的一种大...

1024程序员节 花了三个小时调试 集合近50种常用小工具 开源项目

开篇1024是程序员节了,本来我说看个开源项目花半个小时调试之前看的一个不错的开源项目,一个日常开发常常使用的工具集,结果花了我三个小时,开源作者的开源项目中缺少一些文件,我一个个在网上找的,好多坑...

免费全开源,功能强大的多连接数据库管理工具!-DbGate

DBGate是一个强大且易于使用的开源数据库管理工具,它提供了一个统一的Web界面,让你能够轻松地访问和管理多种类型的数据库。无论你是开发者、数据分析师还是DBA,DBGate都能帮助你提升工作效率...

10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
  • 10个最佳的开源免费的酒店系统,接私活创业拿来改改
使用operator部署Prometheus

一、介绍Operator是CoreOS公司开发,用于扩展kubernetesAPI或特定应用程序的控制器,它用来创建、配置、管理复杂的有状态应用,例如数据库,监控系统。其中Prometheus-Op...

java学习总结

SpringBoot简介https://spring.io/guideshttp://www.spring4all.com/article/246http://www.spring4all.com/a...

Swoole难上手?从EasySwoole开始

前言有些童鞋感觉对Swoole不从下手,也不知在什么业务上使用它,看它这么火却学不会也是挺让人捉急的一件事情。Swoole:面向生产环境的PHP异步网络通信引擎啥是异步网络通信?10年架构师领你架...

一款商用品质的开源商城系统(Yii2+Vue2.0+uniapp)

一、项目简介这是一套很成熟的开源商城系统【开店星】,之前推过一次,后台感兴趣的还不少,今天再来详细介绍一下:基于Yii2+Vue2.0+uniapp框架研发,代码质量堪称商用品质,下载安装无门槛,UI...

Yii2中对Composer的使用

如何理解Composer?若使用Composer我们应该先知道这是一个什么东西,主要干什么用的,我们可以把Composer理解为PHP包的管理工具,管理我们用到的Yii2相关的插件。安装Compose...

SpringBoot实现OA自动化办公管理系统源码+代码讲解+开发文档

今天发布的是由【猿来入此】的优秀学员独立做的一个基于springboot脚手架的自动化OA办公管理系统,主要实现了日常办公的考勤签到等一些办公基本操作流程的全部功能,系统分普通员工、部门经理、管理员等...

7层架构解密:从UI到基础设施,打造真正可扩展的系统

"我们系统用户量暴增后完全崩溃了!"这是多少工程师的噩梦?选择正确的数据库只是冰山一角,真正的系统扩展性是一场全栈战役。客户端层:用户体验的第一道防线当用户点击你的应用时,0.1秒...

Win11系统下使用Django+Celery异步任务队列以及定时(周期)任务

首先明确一点,celery4.1+的官方文档已经详细说明,该版本之后不需要引入依赖django-celery这个库了,直接用celery本身就可以了,就在去年年初的一篇文章python3.7....

取消回复欢迎 发表评论: