Spark jdbc 的并发的问题
mhr18 2024-12-27 16:19 14 浏览 0 评论
大家使用spark比较熟的，都了解到spark可以通过jdbc这个API 可以访问 oracle的数据。
而且也可以在
def jdbc(
url: String,
table: String,
predicates: Array[String],//这里就是传入进去的sql,可以是多个sql，这样就能并发向oracle查询数据了
connectionProperties: Properties): DataFrame = {
assertNoSpecifiedSchema("jdbc")
// connectionProperties should override settings in extraOptions.
val params = extraOptions.toMap ++ connectionProperties.asScala.toMap
val options = new JDBCOptions(url, table, params)
val parts: Array[Partition] = predicates.zipWithIndex.map { case (part, i) =>
JDBCPartition(part, i) : Partition
}
val relation = JDBCRelation(parts, options)(sparkSession)
sparkSession.baseRelationToDataFrame(relation)
}只是，这样有问题：
问题一：并发的个数不能控制，如果
predicates的长度是9
exectors的个数是3
cpu的core是3，那么运行这个任务的时候，就会启动 9个task，那问题来了，这么高的并发向oracle发起查询，对oracle的压力大。
可以通过 coalesce 来避免。
其次，这9个task运行的时间差 可能有的task 运行的时间点早，有的晚。
这样触发的是导数据任务，根据update_time进行导入，那么导入的数据在区间A中的一条恰好更新了，更新后应该进入 区间B 中，而这个时候，区间B的任务已经跑完了，因为运行的早。
那么这条记录就会丢失，这算是严重的问题了。
一：需要设置oracle的 isolationLevel,改成 REPEATABLE_READ
二：针对 9句sql，前面8句 可以并发操作，最后一条sql ，等前面8个任务执行完成后，才执行。
这样就可以了。因为 虽然数据会发生变化，变化的时候 updated_time肯定是系统最新的时间，那么这个时间肯定会落入 最后一句sql中，而且 因为 最后一个任务是最后执行，所以就没有问题了。（这里有个注意点：最后一句的sql区间 必须要确定 更新的时间点 一定要落在区间中才行）
相关推荐
- MySQL数据库中，数据量越来越大，有什么具体的优化方案么?
-
个人的观点，这种大表的优化，不一定上来就要分库分表，因为表一旦被拆分，开发、运维的复杂度会直线上升，而大多数公司和开发人员是欠缺这种能力的。所以MySQL中几百万甚至小几千万的表，先考虑做单表的优化。...
- Redis的Bitmap(位图):签到打卡、用户在线状态，用它一目了然
-
你是不是每天打开APP，第一时间就是去“签到打卡”？或者在社交软件里，看到你的朋友头像旁边亮着“在线”的绿灯？这些看似简单的功能背后，都隐藏着一个有趣而高效的数据结构。如果让你来设计一个签到系统：用户...
- 想知道有多少人看了你的文章?Redis HyperLogLog几KB就搞定!
-
作为一名内容创作者，你每天最期待的，除了文章阅读量蹭蹭上涨，是不是还特别想知道，到底有多少个“独立用户”阅读了你的文章？这个数字，我们通常称为“UV”（UniqueVisitors），它比总阅读量更...
- Redis的“HyperLogLog”:统计网站日活用户，省内存又高效的神器
-
你可能从未听过这个拗口的名字——“HyperLogLog”，它听起来就像是某个高深莫测的数学公式。但请相信我，理解它的核心思想并不难，而且一旦你掌握了它，你会发现它在处理大数据统计问题时，简直就是“救...
- 阿里云国际站:为什么我的云服务器运行缓慢?
-
本文由【云老大】TG@yunlaoda360撰写一、网络性能瓶颈带宽不足现象：上传/下载速度慢，远程连接卡顿。排查：通过阿里云控制台查看网络流量峰值是否接近带宽上限34。解决：升级带宽（如从1M提...
- Java 近期新闻:Jakarta EE 11和Spring AI更新、WildFly 36.0 Beta、Infinispan
-
作者|MichaelRedlich译者|明知山策划|丁晓昀OpenJDKJEP503（移除32位x86移植版本）已从“ProposedtoTarget”状态进入到“T...
- 腾讯云国际站:怎样设置自动伸缩应对流量高峰?
-
云计算平台服务以阿里云为例：开通服务与创建伸缩组：登录阿里云控制台，找到弹性伸缩服务并开通。创建伸缩组时，选择地域与可用区，定义伸缩组内最小/最大实例数，绑定已有VPC虚拟交换机。实例模板需...
- 【案例分享】如何利用京东云建设高可用业务架构
-
本文以2022年一个实际项目为基础，来演示在京东云上构建高可用业务的整个过程。公有云及私有云客户可通过使用京东云的弹性IAAS、PAAS服务，创建高可用、高弹性、高可扩展、高安全的云上业务环境，提升业...
- Spring Security在前后端分离项目中的使用
-
1文章导读SpringSecurity是Spring家族中的一个安全管理框架，可以和SpringBoot项目很方便的集成。SpringSecurity框架的两大核心功能：认证和授权认证：...
- Redis与Java集成的最佳实践
-
Redis与Java集成的最佳实践在当今互联网飞速发展的时代，缓存技术的重要性毋庸置疑。Redis作为一款高性能的分布式缓存数据库，与Java语言的结合更是如虎添翼。今天，我们就来聊聊Redis与Ja...
- Redis在Java项目中的应用与数据持久化
-
Redis在Java项目中的应用与数据持久化Redis简介：为什么我们需要它？在Java项目中，Redis就像一位不知疲倦的快跑选手，总能在关键时刻挺身而出。作为一个内存数据库，它在处理高并发请求时表...
- Redis 集群最大节点个数是多少?
-
Redis集群最大节点个数取决于Redis的哈希槽数量，因为每个节点可以负责多个哈希槽。在Redis3.0之前，Redis集群最多支持16384个哈希槽，因此最大节点数为16384个。但是在Redi...
- Java开发岗面试宝典:分布式相关问答详解
-
今天千锋广州Java小编就给大家分享一些就业面试宝典之分布式相关问题，一起来看看吧！1.Redis和Memcache的区别?1、存储方式Memecache把数据全部存在内存之中，断电后会挂掉，数据不...
- 当Redis内存不足时，除了加内存，还有哪些曲线救国的办法?
-
作为“速度之王”的Redis，其高性能的秘密武器之一就是将数据存储在内存中。然而，内存资源是有限且昂贵的。当你的Redis实例开始告警“内存不足”，或者写入请求被阻塞时，最直接的解决方案似乎就是“加内...
- 商品详情页那么多信息，Redis的“哈希”如何优雅存储?
-
你每天网购时，无论是打开淘宝、京东还是拼多多，看到的商品详情页都琳琅满目：商品名称、价格、库存、图片、描述、评价数量、销量。这些信息加起来，多的惊人。那么问题来了：这些海量的商品信息，程序是去哪里取出...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- MySQL数据库中，数据量越来越大，有什么具体的优化方案么?
- Redis的Bitmap(位图):签到打卡、用户在线状态，用它一目了然
- 想知道有多少人看了你的文章?Redis HyperLogLog几KB就搞定!
- Redis的“HyperLogLog”:统计网站日活用户，省内存又高效的神器
- 阿里云国际站:为什么我的云服务器运行缓慢?
- Java 近期新闻:Jakarta EE 11和Spring AI更新、WildFly 36.0 Beta、Infinispan
- 腾讯云国际站:怎样设置自动伸缩应对流量高峰?
- 【案例分享】如何利用京东云建设高可用业务架构
- Spring Security在前后端分离项目中的使用
- Redis与Java集成的最佳实践
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)