百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

大数据:StarRocks jdbc 外表:高效实现查询外部数据源

mhr18 2025-01-09 14:46 24 浏览 0 评论

导语

StarRocks 支持多种类型的外部表 (external table) ,极大的方便其他的外部数据源的数据以外表的方式接入到StarRocks 实例内,可以直接向外部表所在数据源发起查询。目前 StarRocks 已支持的第三方数据源包括 MySQL、Elasticsearch、Apache Hive?、StarRocks、Apache Iceberg 和 Apache Hudi。本文介绍的是 jdbc外表,该类型外表功能自 2.3.0 版本开始,通过它无需将 jdbc 资源的数据导入至 StarRocks,即可实现对这类数据库的极速分析。

体验

## 前提条件

在使用 JDBC 外表时, FE、BE 节点会下载或本地先部署 JDBC 驱动程序,因此 FE、BE 节点所在机器必须能够访问用于下载 JDBC 驱动程序 JAR 包的 URL,该 URL 由创建 JDBC 资源中的配置项 driver_url 指定。如果FE、BE 节点不能访问远程驱动程序 JAR 包的 URL 可以选择使用本地访问的模式,我这里就是部署使用本地驱动文件,该驱动文件需要部署到集群中的所有节点上的相同目录下。

## 创建和管理 JDBC 资源

备注:这里以外部 StarRocks 资源举例,实现在 StarRocks A集群中查询 StarRocks B的数据。StarRocks jdbc 数据源的驱动可以使用 MySQL 驱动。这里我是本地部署,先去 MySQL 官方下载 jdbc 驱动,我的驱动包版本是 “mysql-connector-java-5.1.49.jar”。

create external resource jdbc_ming025
properties (
    "type"="jdbc",
    "user"="ming",
    "password"="changeme",
    "jdbc_uri"="jdbc:mysql://ming.local:9230/dw",
    "driver_url"="file:///data/mingsr/jar3/mysql-connector-java-5.1.49.jar",
    "driver_class"="com.mysql.jdbc.Driver"
);

properties 的必填配置项:

  • type:资源类型,固定取值为 jdbc。
  • user:目标数据库用户名。
  • password:目标数据库用户登录密码。
  • jdbc_uri:JDBC 驱动程序连接目标数据库的 URI,需要满足目标数据库 URI 的语法。常见的目标数据库 URI,请参见 MySQL、Oracle、PostgreSQL、SQL Server 官网文档。
  • driver_url:用于下载 JDBC 驱动程序 JAR 包的 URL,支持使用 HTTP 协议 或者 file 协议。
  • driver_class:JDBC 驱动程序的类名称。MySQL:com.mysql.jdbc.Driver(MySQL 5.x 及以下版本)、com.mysql.cj.jdbc.Driver (MySQL 8.x 及以上版本)。

## 查看 jdbc 资源

show resources;

## 删除 jdbc 资源

drop resource "jdbc_ming025";

说明:删除 JDBC 资源会导致使用该 JDBC 资源创建的 JDBC 外部表不可用,但目标数据库的数据并不会丢失。如果仍需要通过 StarRocks 查询目标数据库的数据,可以重新创建 JDBC 资源和 JDBC 外部表。

## 创建 jdbc 外部表

create external table ext0_dw_ord_order (
  `cal_dt` date NULL COMMENT "更新日期",
  `order_id` bigint(20) NULL COMMENT "订单ID",
  `create_dt` varchar(64)  NULL COMMENT "订单创建日期"
) ENGINE=jdbc 
properties (
    "resource"="jdbc_ming025",
    "table"="dw_ord_order"
);

properties 配置项:

  • resource:所使用 JDBC 资源的名称,必填项。
  • table:目标数据库表名,必填项。

建外表定义字段类型时需要注意,StarRocks 自有的数据类型附属定义,例如“SUM、MAX、MIN、REPLACE、HLL_UNION、BITMAP_UNION、REPLACE_IF_NOT_NULL”这些都要先处理去除,仅保留基础数据类型定义。

## 查询 jdbc 外表

查询 jdbc 外部表前,必须启动 Pipeline 引擎。

show global variables like 'enable_pipeline_engine';
+------------------------+-------+
| Variable_name          | Value |
+------------------------+-------+
| enable_pipeline_engine | true  |
+------------------------+-------+ 

到此,对该外表执行 select 语句,通过 JDBC 外部表查询目标数据库的数据。

结语

StarRocks 的外部表类型很多,各有适用场景和缺陷。

相关推荐

redis 7.4.3更新!安全修复+性能优化全解析

一、Redis是什么?为什么选择它?Redis(RemoteDictionaryServer)是一款开源的高性能内存键值数据库,支持持久化、多数据结构(如字符串、哈希、列表等),广泛应用于缓存、消...

C# 读写Redis数据库的简单例子

CSRedis是一个基于C#的Redis客户端库,它提供了与Redis服务器进行交互的功能。它是一个轻量级、高性能的库,易于使用和集成到C#应用程序中。您可以使用NuGet包管理器或使用以下命令行命令...

十年之重修Redis原理

弱小和无知并不是生存的障碍,傲慢才是。--------面试者总结Redis可能都用过,但是从来没有理解过,就像一个熟悉的陌生人,本文主要讲述了Redis基本类型的使用、数据结构、持久化、单线程模型...

高频L2行情数据Redis存储架构设计(含C++实现代码)

一、Redis核心设计原则内存高效:优化数据结构,减少内存占用低延迟访问:单次操作≤0.1ms响应时间数据完整性:完整存储所有L2字段实时订阅:支持多客户端实时数据推送持久化策略:RDB+AOF保障数...

Magic-Boot开源引擎:零代码玩转企业级开发,效率暴涨!

一、项目介绍基于magic-api搭建的快速开发平台,前端采用Vue3+naive-ui最新版本搭建,依赖较少,运行速度快。对常用组件进行封装。利用Vue3的@vue/compiler-sfc单文...

项目不行简历拉胯?3招教你从面试陪跑逆袭大厂offer!

项目不行简历拉胯?3招教你从面试陪跑逆袭大厂offer!老铁们!是不是每次面试完都感觉自己像被大厂面试官婉拒的渣男?明明刷了三个月题库,背熟八股文,结果一被问项目就支支吾吾,简历写得像大学生课程设计?...

谷歌云平台:开发者部署超120个开源包

从国外相关报道了解,Google与Bitnami合作为Google云平台增加了一个新的功能,为了方便开发人员快捷部署程序,提供了120余款开源应用程序云平台的支持。这些应用程序其中包括了WordPre...

知名互联网公司和程序员都看好的数据库是什么?

2017年数据库领域的最大趋势是什么?什么是最热的数据处理技术?学什么数据库最有前途?程序员们普遍不喜欢的数据库是什么?本文都会一一揭秘。大数据时代,数据库的选择备受关注,此前本号就曾揭秘国内知名互联...

腾讯云发布云存储MongoDB服务

近日,著名安全专家兼Shodan搜索引擎的创建者JohnMatherly发现,目前至少有35000个受影响的MongoDB数据库暴露在互联网上,它们所包含的数据暴露在网络攻击风险之中。据估计,将近6...

已跪,Java全能笔记爆火,分布式/开源框架/微服务/性能调优全有

前言程序员,立之根本还是技术,一个程序员的好坏,虽然不能完全用技术强弱来判断,但是技术水平一定是基础,技术差的程序员只能CRUD,技术不深的程序员也成不了架构师。程序员对于技术的掌握,除了从了解-熟悉...

面试官:举个你解决冲突的例子?别怂!用这个套路……

面试官:举个你解决冲突的例子?别怂!用这个套路……最近收到粉丝私信,说被问到:团队技术方案有分歧怎么办?当场大脑宕机……兄弟!这不是送命题,是展示你情商+技术判断力的王炸题!今天教你们3招,用真实案例...

面试碰到MongoDB?莫慌,跟面试官这样吹MongoDB 复制集

推荐阅读:吊打MySQL:21性能优化实践+学习导图+55面试+笔记+20高频知识点阿里一线架构师分享的技术图谱,进阶加薪全靠它十面字节跳动,依旧空手而归,我该放弃吗?文末会分享一些MongoDB的学...

SpringBoot集成扩展-访问NoSQL数据库之Redis和MongoDB!

与关系型数据库一样,SpringBoot也提供了对NoSQL数据库的集成扩展,如对Redis和MongoDB等数据库的操作。通过默认配置即可使用RedisTemplate和MongoTemplate...

Java程序员找工作总卡项目关?

Java程序员找工作总卡项目关?3招教你用真实经历写出HR抢着要的简历!各位Java老哥,最近刷招聘软件是不是手都划酸了?简历投出去石沉大海,面试邀请却总在飞别人的简历?上周有个兄弟,13年经验投了5...

Java多租户SaaS系统实现方案

嗯,用户问的是Java通过租户id实现的SaaS方案。首先,我需要理解用户的需求。SaaS,也就是软件即服务,通常是指多租户的架构,每个租户的数据需要隔离。用户可能想知道如何在Java中利用租户ID来...

取消回复欢迎 发表评论: