【技术补给站】第3期:学习大数据治理,手把手教你从零开始画DAG作业依赖图
随着大数据业务场景越来越复杂,数据开发中常常有作业之间的依赖,在执行作业的时候,可能会出现作业失败,或者重试的情况,运维或者开发人员需要有一个很直观的图展示了解作业之间的依赖,这时候DAG依赖流程图就是一个很好的展现形式。
由于一些开源的插件和当前的业务逻辑有一些冲突,华为云大数据技术工程师尝试从零开始,一点点实现业务的DAG图,并记录整个实现过程和总结。
目录
磨刀不误砍柴工,先给作业依赖图定好基调,阐明画DAG作业依赖图的背景、场景分析、实现目标,确定设计稿和技术选型。
介绍节点位置信息的处理:为了确定节点的位置信息,首先要给节点分层,分层的信息取决于节点之间的依赖关系。
确定好节点的相对位置后,就是基于节点来连线,本文提供几种连线的方案思路:直线方式、曲线方式、折线方式
在一些复杂场景中,节点层级较多,就需要优化节点间的连线,达到规避障碍节点的目的。
本合集为《技术补给站》003期,欢迎大家持续关注。
技术补给站
聚焦热门的细分技术领域,带来系统且专业的干货解读,从而为开发者提供新技术知识的补给,助力技术能力更上一层楼。
【001】 中台规划:重磅发布!《IT 2.0时代,华为全场景驱动下中台规划实战全集》
【002】数仓调优:数仓性能调优必读:从系统级到SQL级,带你进阶为性能调优高手
【003】依赖图绘制:学习大数据治理,手把手教你从零开始画DAG作业依赖图
【004】音视频:音视频爆火的背后,藏着哪些技术奥秘?华为云视频云专家为你深度解读
【005】云原生:从架构和实践,剖析KubeEdge+Volcano技术硬实力
【006】LiteOS实操:带你步步深入LiteOS,掌握物联网开发秘笈
【007】 API应用:20个超实用API应用案例,开启API进阶之路(内附资料下载)
- 点赞
- 收藏
- 关注作者
评论(0)