Dask适配GaussDB开源验证任务心得
Dask适配GaussDB开源验证任务心得
首先先看下任务计划书 https://bbs.huaweicloud.com/blogs/437786,大概了解了下这个任务的主要工作是完成 dask连接GaussDB并且可以读可以写数据的验证工作。总体来讲不是很复杂,主要是需要花时间熟悉dask的结构、环境搭建、扩展新功能和开发简单的界面展示效果。下面介绍下适配过程中的一些关键步骤。
先fork一下DEMO代码
fork 到这个组织下面了:
https://gitcode.com/xizhou_0313/OpenSourceForHuaweiDaskPython/overview
开发过程
首先参考任务计划书给的参考资料: https://github.com/dask/dask 。 把官网提供的原代码看了下, 并把关键的类信息拷贝过来。 官网采用的是读取文件系统, 需要改为GaussDB。 我采用了psycopg2提供的 驱动。
1.采用的python和dask版本如下:
2.代码提交部署
提价代码到对应的仓库后,按照 在ecs部署运行项目。
代码开发:详细见
开发总结
由于本任务是一个python验证项目,使用anaconda管理依赖包,部署和运行都是没什么问题的,因此相关的部署验证问题都不再描述了。 通过该任务,可以证明使用 psycopg2, 是可以接入 GaussDB的。
(1)DEMO仓库地址:
https://gitcode.com/xizhou_0313/OpenSourceForHuaweiDaskPython/overview
(2)DEMO开发记录:
https://gitcode.com/xizhou_0313/OpenSourceForHuaweiDaskPython/commits/main
(3) 博客的地址: https://bbs.huaweicloud.com/blogs/440273
- 点赞
- 收藏
- 关注作者
评论(0)