数据仓库BW与大数据平台,到底如何取舍?
mhr18 2024-10-11 12:59 18 浏览 0 评论
在回答这个标题前,有必要对BW是什么做个简要的说明。
【BW是什么】
在SAP的产品架构里,BW的定位是用来减轻和转移ERP系统在报表统计和数据分析的压力,把ERP宝贵的资源用在业务处理上(比如月结,成本核算),即BW处理OLAP类事务,ERP处理OLTP类事务。不启用BW,则需要由ERP同时处理OLAP和OLTP事务,对ERP系统有三方面负面影响:首先在架构层面,增加了ERP本身的应用复杂度;其次,数据耦合度高,ERP系统的性能直接决定报表数据的性能(你越忙我越慢);最后,由于ERP“身兼多职”,降低了ERP系统处理业务事务的性能。
【构建大数据平台后,BW何去何从】
接下来问题来了,既然BW能做OLAP,大数据平台也可以做OLAP,那能不能统一用大数据平台?这样一来架构简单,二来可以节省运维成本。
这个问题很难给出一个一刀切的结论,现在应用技术环境本就是包容的思路,这也是架构师的价值所在。工具本身没有好坏,只有合适与不合适,需要架构师从实际业务出发进行设计,而不是黑猫白猫非比个好坏出来,能抓老鼠,解决问题就是好猫。如果非要再进一步阐述,那就多啰嗦几句:首先BW是SAP ERP的好兄弟没错,它的初衷是为ERP减负,让ERP做好他的本职工作,但不代表BW只能做ERP的专职小弟,实际上BW是按企业级数据仓库的定位来设计的,它具备高度的体系化能力(平台稳定)和丰富的扩展能力(支持分布式),换句话说,BW具备集成非SAP系统的数据能力,产品架构也没有问题,工具层面是可以作为EDW来用的;其次,如果企业仍然悄悄的按着手上的BW on Oracle版本没有升级的话,那么恭喜你,你的BW licence是算在SAP ERP里的,换句话说可以免费用(这种问题是你不问,SAP绝对不会说的,还会有各种暗示赶紧升级),但代价是没有实时数据获取的能力,这个要企业自己平衡。
言归正传,对于手心手背都是肉的企业CIO或CTO来说,我从如下几个方面给出了一些决策参考:
1,成本方面:当数据涉及SAP簇表或结构时,这类是比较复杂的业务事务,SAP一般会通过事先封装好的一套逻辑(叫做事务代码)来调用相关数据,通过SAP给BW的标准数据源这条康庄大道会比较省事,否则需要摸透SAP的事务代码封装逻辑,整个过程有点像拆盲盒,需要些运气,小批量数据对了不代表大批量数据对,某一期间数据对了不代表所有期间数据都对,每次数据校验都会有surprise,因为业务场景不会一成不变,所以相较直接启用标准数据源,成本有些高,当然,艺高人胆大的高手或预算不缺的不在此列。
2,性能方面:SAP给BW的标准数据源是SAP优化过的数据传输方案,比如IDOC这种非侵入式的数据传输协议,可以保证在大的数据量传输(千万级以上),取数作业不会对SAP系统性能产生负面影响。由于SAP体系的特殊性(有自己的生态),第三方取数工具相较SAP IDOC协议,属于侵入式,会牺牲一部分SAP性能,特别是大数据量的情况下,所以一般第三方工具大批量取数会避开月头月尾月结时期,除非Basis调优和硬件资源足够强,否则有一定数据空窗期。
3,增量作业:由于考虑到不同国家、不同场景的业务配置标准化、通用化,SAP的增量机制设计的非常复杂,如后勤模块的增量机制大多是通过事务条件触发,而不是传统的时间戳,体现在数据表中为没有时间字段或有多个时间字段,这种形式的增量取数,SAP提供给BW的标准数据源可以识别和支持,非SAP体系的数据集成工具难以支持。说实话,一张表里啥时间字段没有,还有更过份搞加密的,我也难以理解SAP的设计人员是怎么考虑的。
4,低代码开发:BW本身来说,它是高度成熟的商业套件(已有30+年历史),也是一个低代码的建模平台,平台内置丰富的函数和可视化配置工具,基本可以在不写SQL或少量SQL的情况下完成数据建模,对比HIVE有点像Windows操作系统和Linux操作系统的区别,开发效率相较开源组件较高。
5,语义分析:我个人一直觉得大数据量多维表格的ad-hoc即席分析和实时计算是个有较高技术门槛的领域。BW自带的即席报表工具Analyzer/Analysis虽然看着丑,但其实有料也很实用,和德国香肠一样朴实无华但管饱能救命。它自带的基于MDX的ad-hoc即席分析引擎非常易于业务人员上手使用(会用Excel的同事培训十多分钟就可以上手),并支持模板互传,模板分享这些核心的功能,以至于有时候业务用户没有意识到自己是在用BW工具,直夸这个Excel真好用。
接到一些同学私信,要求来个总结,那就献个拙,如果企业之前已经应用了BW并部署了一些成功的数据应用,建议可以和大数据平台形成湖仓一体的架构,首先,这样做技术层面不存在障碍,也没有很高的成本,其次,可以节省企业的重构时间,避免花代价把以前做的内容在新平台上再来一次。预算充分的话,可以考虑BW on hadoop的技术方案,这样可以在平台工具层面使两者刀剑合并。
【写在最后】
我一直认为,大数据平台(现在流行叫数据底座,这里吐个槽,最近有不少营销人才进了IT领域,五花八门的各种包装,也不管用户是不是已经满眼小星星,逮到就一通暴击加连杀的疯狂输出),它不应是一个狭义的某某技术平台的概念,而是一个包括数据治理、AI等方面的多元体系,这个体系应该是丰富、开放和物尽其用的,而不是单体科技树,最后形成新的自我封闭。
好了,唠叨完了,继续开会。
相关推荐
- SpringBoot 各种分页查询方式详解(全网最全)
-
一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...
- 《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略
-
《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...
- LoadRunner(loadrunner录制不到脚本)
-
一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...
- Redis数据类型介绍(redis 数据类型)
-
介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...
- RMAN备份监控及优化总结(rman备份原理)
-
今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...
- 备份软件调用rman接口备份报错RMAN-06820 ORA-17629 ORA-17627
-
一、报错描述:备份归档报错无法连接主库进行归档,监听问题12541RMAN-06820:WARNING:failedtoarchivecurrentlogatprimarydatab...
- 增量备份修复物理备库gap(增量备份恢复数据库步骤)
-
适用场景:主备不同步,主库归档日志已删除且无备份.解决方案:主库增量备份修复dg备库中的gap.具体步骤:1、停止同步>alterdatabaserecovermanagedstand...
- 一分钟看懂,如何白嫖sql工具(白嫖数据库)
-
如何白嫖sql工具?1分钟看懂。今天分享一个免费的sql工具,毕竟现在比较火的NavicatDbeaverDatagrip都需要付费才能使用完整功能。幸亏今天有了这款SQLynx,它不仅支持国内外...
- 「开源资讯」数据管理与可视化分析平台,DataGear 1.6.1 发布
-
前言数据齿轮(DataGear)是一款数据库管理系统,使用Java语言开发,采用浏览器/服务器架构,以数据管理为核心功能,支持多种数据库。它的数据模型并不是原始的数据库表,而是融合了数据库表及表间关系...
- 您还在手工打造增删改查代码么,该神器带你脱离苦海
-
作为Java开发程序,日常开发中,都会使用Spring框架,完成日常的功能开发;在相关业务系统中,难免存在各种增删改查的接口需求开发。通常来说,实现增删改查有如下几个方式:纯手工打造,编写各种Cont...
- Linux基础知识(linux基础知识点及答案)
-
系统目录结构/bin:命令和应用程序。/boot:这里存放的是启动Linux时使用的一些核心文件,包括一些连接文件以及镜像文件。/dev:dev是Device(设备)的缩写,该目录...
- PL/SQL 杂谈(二)(pl/sql developer使用)
-
承接(一)部分。我们从结构和功能这两个方面展示PL/SQL的关键要素。可以看看PL/SQL的优雅的代码。写出一个好的代码,就和文科生写出一篇优秀的作文一样,那么赏心悦目。1、与SQL的集成PL/S...
- 电商ERP系统哪个好用?(电商erp哪个好一点)
-
电商ERP系统哪个好用?做电商的,谁还没被ERP折腾过?有老板说:“我们早就上了ERP,订单、库存、财务全搞定,系统用得飞起。”也有运营吐槽:“系统是上了,可库存老不准,订单漏单错单天天有,财务对账还...
- 汽车检测线系统实例,看集中控制与PLC分布控制
-
PLC可编程控制器,上个世纪70年代初,为取代早期继电器控制线路,开始采取存储指令方式,完成顺序控制而设计的。开始仅有逻辑运算、计时、计数等简单功能。随着微处理的发展,PLC可编程能力日益提高,已经能...
- 苹果五件套成公司年会奖品主角,几大小技巧教你玩转苹果新品
-
钱江晚报·小时新闻记者张云山随着春节的临近,各家大公司的年会又将陆续上演。上周,各大游戏公司的年会大奖,苹果五件套又成了标配。在上海的游戏公司中,莉莉丝奖品列表拉得相当长,从特等奖到九等奖还包含了特...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)