【手把手带你玩转HetuEngine】(四)HetuEngine数据源对接

举报
HetuEngine九级代言 发表于 2023/07/30 21:08:01 2023/07/30
【摘要】 HetuEngine能够支持跨源(多种数据源,如Hive,HBase,GaussDB(DWS),Elasticsearch,ClickHouse等),跨域(多个地域或数据中心)的快速联合查询,尤其适用于Hadoop集群(FusionInsight MRS)的Hive、Hudi数据的交互式快速查询场景。本章将对HetuEngine的数据源对接能力与操作实践进行介绍。

前言

HetuEngine能够支持跨源(多种数据源,如Hive,HBase,GaussDB(DWS),Elasticsearch,ClickHouse等),跨域(多个地域或数据中心)的快速联合查询,尤其适用于Hadoop集群(FusionInsight MRS)的Hive、Hudi数据的交互式快速查询场景。本章将对HetuEngine的数据源对接能力与操作实践进行介绍。

数据源对接概述

当前HetuEngine数据源对接支持以下几种能力:

1.支持对接Hive、HBase、GaussDB(DWS),Elasticsearch,ClickHouse、Hudi、IoTDB等多种数据源,并支持对接跨域HetuEngine

2.支持多种数据源的快速联合查询并提供可视化的数据源配置、管理页面,用户可通过HSConsole界面快速添加数据源,并进行差异化配置

3.数据源动态生效,无需重启计算实例

4.支持数据源下推

多数据源对接

当前版本HetuEngine支持对接的数据源如表1所示

  1 HetuEngine对接数据源一览表

HetuEngine模式

数据源

数据源模式

支持对接的数据源版本

安全模式

Hive

安全模式

MRS 3.x、FusionInsight 6.5.1

HBase

MRS 3.x

Elasticsearch

MRS 3.1.2及以后

HetuEngine

MRS 3.1.1及以后

GaussDB

GaussDB 200、GaussDB A 8.0.0及以后

Hudi

MRS 3.1.2及以后

ClickHouse

MRS 3.1.1及以后

IoTDB

MRS 3.2.0及以后

普通模式

Hive

普通模式

MRS 3.x、FusionInsight 6.5.1

HBase

MRS 3.x

Elasticsearch

MRS 3.1.2及以后

Hudi

MRS 3.1.2及以后

ClickHouse

MRS 3.1.1及以后

IoTDB

MRS 3.2.0及以后

GaussDB

安全模式

GaussDB 200、GaussDB A 8.0.0及以后

可视化数据源管理界面

HetuEngine能够支持多种数据源的快速联合查询并提供可视化的数据源配置、管理页面,用户可通过HSConsole界面快速添加数据源,并进行差异化配置。操作示例如下图所示

1.png

可以通过最下方“自定义配置”添加相应数据源的自定义配置

2.png

数据源动态生效

HSConsole界面或者使用HSConsole Rest API对数据源的添加、配置、删除等操作支持动态生效,无须重启计算实例。

数据源动态生效时间默认为60秒。如需修改动态生效时间,在计算实例自定义配置添加如下参数,例如:

catalog.scanner-interval =120s

数据源计算下推

HetuEngine支持查询下推(pushdown),它能把查询,或者部分查询,下推到连接的数据源。这意味着特殊的谓词,聚合函数或者其它一些操作,可以被传递到底层数据库或者文件系统进行处理。查询下推能带来以下好处:

  1. 提升整体的查询性能。
  2. 减少HetuEngine和数据源之间的网络流量。
  3. 减少远端数据源的负载。

HetuEngine对查询下推的具体支持情况,依赖于具体的Connector,以及Connector相关的底层数据源或存储系统。


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。