SQL*Loader批量插入性能优化（sql批量处理数据）
mhr18 2024-09-13 20:41 33 浏览 0 评论
在工作中频繁收到客户反馈，系统通过SQL*Loader导入数据时非常缓慢。希望对数据导入进行优化。因此对SQL*Loader进行了验证。最终确定各参数对SQL*Loader的影响。
测试说明
本次测试使用的文件一共两个
文件A 共 192MB 合计419849行 表一共49列
文件B 共11.2MB 合计101828行 表一共19列
测试使用的数据以此文件进行构造，由于测试时间较早，测试过程的数据可能存在并非很合理的情况，但不影响测试结论。对测试过程不感兴趣可直接在文末查看结论。
场景一：测试直接路径插入和常规路径插入对性能的影响
结论分析：直接路径插入性能比常规路径插入要快很多，但使用直接路径插入时只能单线程处理，且必须有配套的高水位清理机制，否则可能浪费大量磁盘空间。
场景二：SQL*Loader多开能否加快处理速度
结论分析：SQL*Loader多开并不能加快处理速度
场景三：控制文件和数据文件分开后各参数对性能的影响
结论分析：控制文件和数据文件合并在一起时可能会导致一些参数设置无法完全生效，从而影响性能。
场景四：rows，bindsize和readsize对性能的影响
前期准备：控制文件和数据文件需要分开
结论分析：readsize，rows，bindsize他们之间存在互相影响，需要设置相匹配的值
场景五：历史数据对性能的影响
结论分析：历史数据对性能影响较大
结论总结：
- 使用常规路径插入数据时，可通过参数ROWS来增加批量提交的数量来增加插入速度，但ROWS受bindsize影响，例如每行大小为10字节，ROWS=10000，bindsize=50000，则批次提交大小为10W字节，但是bindsize只有5W，所以批次提交数量实际为5000
- 常规路径插入时如果控制文件和数据文件是同一个文件，则ROWS，bindsize不能完全起作用
- 使用直接路径插入数据，当接口表为空时会比使用常规路径快大约3~4倍。但是随着接口表历史数据的不断增加，逐渐减少为只能快1~2倍左右。主要原因在于需要维护索引。并且使用直接路径插入时大文件比小文件拥有更大的优势。
- 不管使用直接路径还是常规路径随着接口表的数据增大均会影响两种模式的插入速度，主要原因在于索引维护。
- 直接路径写入时大文件比小文件拥有更大的优势。常规路径则相差不大。
- 使用常规路径，开启多个SQLLODER并不会变快反而可能比单个SQLLOADER慢，主要原因是受制于测试机的磁盘IO以及索引的维护。
- 直接路径不能应用于并发环境，且使用直接路径插入时需要考虑对表高水位的清理
- 最后额外提一句，确保你的REDO LOG的设置不会太小
本人主要从事于数据库方面的性能优化，文章首发微信公众号，我会不定期在公众号分享数据库方面的知识（主要为Oracle），如果你对文章内容感兴趣，欢迎关注我的公众号：
唯一的小彬哥
WYDXBG2021
相关推荐
- Redis合集-使用benchmark性能测试
-
采用开源Redis的redis-benchmark工具进行压测，它是Redis官方的性能测试工具，可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译，详情请参见Redis...
- Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好
-
最近看了几十份简历，发现大部分人不是技术差，而是不会“卖自己”——一、简历死穴：你写的不是经验，是岗位说明书！反面教材：ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法：...
- redission YYDS（redission官网）
-
每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架，它提供了各种锁实现，包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...
- 从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道
-
2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时，订单系统却产生了1200笔有效订单。事故复盘发...
- SpringBoot系列——实战11:接口幂等性的形而上思...
-
欢迎关注、点赞、收藏。幂等性不仅是一种技术需求，更是数字文明对确定性追求的体现。在充满不确定性的网络世界中，它为我们建立起可依赖的存在秩序，这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...
- 如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享
-
如何优化系统架构设计缓解流量压力提升并发性能？Java实战分享在高流量场景下。首先，我需要回忆一下常见的优化策略，比如负载均衡、缓存、数据库优化、微服务拆分这些。不过，可能还需要考虑用户的具体情况，比...
- Java面试题: 项目开发中的有哪些成长?该如何回答
-
在Java面试中，当被问到“项目中的成长点”时，面试官不仅想了解你的技术能力，更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例，帮助你清晰、有说服力地展示成长点：一...
- 互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?
-
你有没有遇到过这样的情况？在电商大促时，系统上线了抢券活动，结果活动刚一开始，服务器就不堪重负，出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮，最后却被告知无券可抢，体验极差。作为互联网大厂的后...
- 每日一题 |10W QPS高并发限流方案设计(含真实代码)
-
面试场景还原面试官：“如果系统要承载10WQPS的高并发流量，你会如何设计限流方案？”你：“（稳住，我要从限流算法到分布式架构全盘分析）…”一、为什么需要限流？核心矛盾：系统资源（CPU/内存/数据...
- Java面试题:服务雪崩如何解决?90%人栽了
-
服务雪崩是指微服务架构中，由于某个服务出现故障，导致故障在服务之间不断传递和扩散，最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法：限流限制请求速率：通过限流算法（如令牌桶算法、漏桶算...
- 面试题官:高并发经验有吗，并发量多少，如何回复?
-
一、有实际高并发经验（建议结构）直接量化"在XX项目中，系统日活用户约XX万，核心接口峰值QPS达到XX，TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...
- 瞬时流量高并发“保命指南”:这样做系统稳如泰山，老板跪求加薪
-
“系统崩了，用户骂了，年终奖飞了！”——这是多少程序员在瞬时大流量下的真实噩梦？双11秒杀、春运抢票、直播带货……每秒百万请求的冲击，你的代码扛得住吗？2025年了，为什么你的系统一遇高并发就“躺平”...
- 其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。
-
其实很多Java工程师不是能力不够，是没找到展示自己的正确姿势。比如上周有个小伙伴找我，五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他：你做的秒杀...
- PHP技能评测（php等级考试）
-
公司出了一些自我评测的PHP题目，现将题目和答案记录于此，以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct()，类的构造函数__destruct()，类的析构函数__cal...
- 你的简历在HR眼里是青铜还是王者?
-
你的简历在HR眼里是青铜还是王者？兄弟，简历投了100份没反应？面试总在第三轮被刷？别急着怀疑人生，你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)