Apache Linkis 适配GaussDB开源开发任务

举报
yd_265508559 发表于 2024/10/28 17:32:12 2024/10/28
【摘要】 背景介绍开源for Huawei(参考:https://developer.huaweicloud.com/programs/opensource/contributing/)  通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华为云上。开始之前,开发者可以下载 开源f...

背景介绍

开源for Huawei(参考:https://developer.huaweicloud.com/programs/opensource/contributing/)  通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华为云上。

开始之前,开发者可以下载 开源for Huawei Wiki(参考:https://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiWiki/overview) 了解详细的开发步骤,技术准备,以及开发过程需要的各种资源。

 

1 需求分析

1.1 项目影响力

Apache Linkis 是微众银行开源的一款数据中间件,用于解决前台各种工具,应用,和后台各种计算存储引擎的连接,访问和复用问题。Apache Linkis 在上层应用程序和底层引擎之间构建了一层计算中间件。通过使用Linkis 提供的REST/WebSocket/JDBC 等标准接口,上层应用可以方便地连接访问MySQL/Spark/Hive/Presto/Flink 等底层引擎,同时实现统一变量、脚本、用户定义函数和资源文件等用户资源的跨上层应用互通,以及通过REST标准接口提供了数据源管理和数据源对应的元数据查询服务。 Apache Linkis 2019年开源发布以来,已累计积累了700多家试用企业和1000多位沙盒试验用户,涉及金融、电信、制造、互联网等多个行业。许多公司已经将Linkis 作为大数据平台底层计算存储引擎的统一入口,和计算请求/任务治理管控利器

1.2 核心特点

· 丰富的底层计算存储引擎支持Spark、Hive、Python、Shell、Flink、JDBC、Pipeline、Sqoop、OpenLooKeng、Presto、ElasticSearch、Trino、SeaTunnel 等;

· 丰富的语言支持SparkSQL、HiveSQL、Python、Shell、Pyspark、Scala、JSON 和 Java 等;

· 强大的计算治理能力 能够提供基于多级标签的任务路由、负载均衡、多租户、流量控制、资源控制等能力;

· 全栈计算存储引擎架构支持 能够接收、执行和管理针对各种计算存储引擎的任务和请求,包括离线批量任务、交互式查询任务、实时流式任务和数据湖任务;

· 统一上下文服务:支持跨用户、系统、计算引擎去关联管理用户和系统的资源文件(JAR、ZIP、Properties 等),结果集、参数变量、函数、UDF等,一处设置,处处自动引用;

· 统一物料 提供了系统和用户级物料管理,可分享和流转,跨用户、跨系统共享物料;

· 统一数据源管理 提供了Hive、ElasticSearch、Mysql、Kafka、MongoDB 等类型数据源信息的增删查改、版本控制、连接测试和对应数据源的元数据信息查询能力;

· 错误码能力:提供了任务常见错误的错误码和解决方案,方便用户自助定位问题;

项目数据:Fork 1.2K, Star 3.3K, Contributors 149+,最近一次提交:2024-9-25

主要开发语言:

· Java 47.2% 

· Scala 28.1% 

· Ruby 10.1%

官网: https://linkis.apache.org/zh-CN/

源代码仓库:https://github.com/apache/linkis

star历史(https://star-history.com/):

 

image (7).png

1.3 任务目的和范围

本任务的主要目的是让Apache Linkis社区支持华为云 GaussDB数据库服务,拓展GaussDB数据库服务的影响力,方便Apache Linkis的用户使用华为云服务时能够顺利对接GaussDB数据库服务

  • 适配任务清单

生态

生态细类

是否需要验证

验证逻辑说明

是否需要适配

适配场景说明

昇腾生态

指令

使用昇腾处理器运行应用。

使用昇腾指令实现适配逻辑。

CANN

应用功能依赖于CANN运行。

使用CANN实现适配逻辑。

MindSpore

应用功能依赖于MindSpore运行。

使用MindSpore实现适配逻辑。

鲲鹏生态

指令

使用鲲鹏处理器运行应用。

使用鲲鹏指令实现适配逻辑。

Euler

使用Euler系统运行应用。

使用Euler系统调用实现适配逻辑。

数据库生态

GaussDB

使用GaussDB功能。

使用GaussDB的驱动和SQL实现适配逻辑。

GaussDB(DWS)

使用GaussDBDWS)功能。

使用GaussDB(DWS)的驱动和SQL实现适配逻辑。

存储生态

OBS

使用OBS功能。

基于OBS API访问实现适配逻辑。

鸿蒙生态

HarmonyOS

使用HarmonyOS系统运行应用。

使用HarmonyOS系统调用实现适配逻辑。

 

2 工作量评估和任务分解

2.1 工作量评估

任务

/天

基于华为云ECS完成

Apache Linkis安装和部署

1

完成GaussDB适配功能开发

5

完成DEMO设计和验证

2

输出开发资料和博客

1

代码推送上游社区和更新社区资料

1

总计

10人天

 

2.2 基于华为云ECS完成Apache Linkis安装和部署调试

华为云部署参考:

 

image (8).png

 

Apache Linkis 系统架构图

 

image (9).png

Apache Linkis 生态接入图

 

image (10).png

 

参考:

代码仓库 https://github.com/apache/linkis

2.3 完成GaussDB数据库适配功能开发

参考现有Apache Linkis架构,完成2个功能点的分析和适配工作。

Apache Linkis可以在客户端提交任务到GaussDB数据库。

GaussDB数据库可以将查询到的结果数据返回到客户端。

参考:

https://github.com/apache/linkis/blob/master/linkis-dist/package/db/linkis_dml_pg.sql

2.4 完成DEMO设计和验证

 

Apache Linkis客户端创建一条标准SQL语句并最终提交到GaussDB数据库。

GaussDB数据库返回上述SQL语句查询到的结果数据到客户端。

2.5 华为云开发者论坛输出博客

访问华为云开发者论坛(参考:https://bbs.huaweicloud.com/blogs)发表博客,介绍完成这些任务的过程和心得。

内容包括不限于如下内容:

  • 开源for Huawei的背景
  • 开源软件的功能介绍
  • 开发适配过程及碰到和解决的问题
  • DEMO设计、开发、部署过程
  • 代码推送开源社区及互动过程

博客打上如下标签:

  • 开源(必选)
  • 开发者(必选)
  • GaussDB数据库(可选)
  • 云数据库 GaussDB(可选)
  • 鲲鹏(可选)
  • 昇腾(可选)
  • 鸿蒙(可选)

2.6 代码推送上游社区

将代码合并到Apache Linkis官网主干代码,更新Apache Linkis官网资料,包括版本说明、开发指南等。

验收材料

验收细则

评分说明

是否为验收必选项

结果(通过/不通过)

开发者举证

功能开发:完成与华为三大根技术生态(鲲鹏云、昇腾云、鸿蒙)适配的功能开发

完成GaussDB数据库适配功能开发。

代码质量:适配华为三大根技术生态的代码质量经过工具检测达标

推送给开源社区的代码符合开源社区关于代码风格、功能、自动化测试等要求。

提供相关文档,比如部署文档、使用文档、配置文档等

根据社区要求,完善相关的开发指南和部署指导

合入到开源项目主仓:代码推送上游社区

代码合并到当前主干分支。

Deomo设计&开发:完成功能演示Demo的开发

提供DEMO仓库地址。

Demo部署&验证:完成功能演示DEMO基于华为云鲲鹏环境的部署和功能验证

提供DEMO部署验证结果的关键截图进行举证。提供DEMO运行环境和资源的截图举证。

发布博客:发布博客介绍适配心得。

提供博客的地址。

制作单机版无高危开源镜像。

上架云商店。

单机版镜像上架时支持模板部署。

制作集群版无高危开源镜像

上架云商店。

集群版镜像上架时支持模板部署

4 参考资料

  • 开源for Huawei介绍、环境搭建、示例项目、开发和部署指南:https://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiWiki/overview
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。