云社区 博客 博客详情

【合集】学习大数据治理,手把手教你从零开始画DAG作业依赖图

华为云社区精选 发表于 2020-12-31 10:48:27 2020-12-31
0
1

【摘要】 有关DAG作业依赖图的更多内容,华为云社区后续会持续更新。

随着大数据业务场景越来越复杂,数据开发中常常有作业之间的依赖,在执行作业的时候,可能会出现作业失败,或者重试的情况,运维或者开发人员需要有一个很直观的图展示了解作业之间的依赖,这时候DAG依赖流程图就是一个很好的展现形式。

由于一些开源的插件和当前的业务逻辑有一些冲突,华为云大数据技术工程师尝试从零开始,一点点实现业务的DAG图,并记录整个实现过程和总结。

目录


从零开始画自己的DAG作业依赖图(一)--前期准备

磨刀不误砍柴工,先给作业依赖图定好基调,阐明画DAG作业依赖图的背景、场景分析、实现目标,确定设计稿和技术选型。

从零开始画自己的DAG作业依赖图(二)--分层布局算法           

介绍节点位置信息的处理:为了确定节点的位置信息,首先要给节点分层,分层的信息取决于节点之间的依赖关系。

从零开始画自己的DAG作业依赖图(三)--节点连线简单版                

确定好节点的相对位置后,就是基于节点来连线,本文提供几种连线的方案思路:直线方式、曲线方式、折线方式

从零开始画自己的DAG作业依赖图(四)--节点连线优化版                

在一些复杂场景中,节点层级较多,就需要优化节点间的连线,达到规避障碍节点的目的。


有关DAG作业依赖图的更多内容,华为云社区后续会持续更新。

登录后可下载附件,请登录或者注册

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:huaweicloud.bbs@huawei.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
评论文章 //点赞 收藏 1
点赞
分享文章到微博
分享文章到朋友圈

上一篇:云上私有证书也可以“按需使用,弹性扩容”

下一篇:【技术干货合集】数仓性能调优必读:从系统级到SQL级,带你进阶为性能调优高手

评论 (0)


登录后可评论,请 登录注册

评论