《企业级大数据平台构建:架构与实现》——2.4.7 工作流程

举报
华章计算机 发表于 2019/06/06 16:17:10 2019/06/06
【摘要】 本书摘自《企业级大数据平台构建:架构与实现》——书中第2章,2.4.7节,作者是朱凯。

2.4.7 工作流程

接下来我们简单看一下YARN的整个工作过程,如图2-13所示。

1)用户向YARN中提交应用程序。

2)ResourceManager为该应用程找到一个可用的NodeManager并分配第一个Container,然后在这个Container中启动应用程序的ApplicationMaster。

3)ApplicationMaster向ResourceManager进行注册,这样用户就可以通过Resource-

Manager查看应用程序的运行状态并对任务进行监控。

4)ApplicationMaster采用轮询的方式通过RPC协议向ResourceManager申请和领取资源。

5)ApplicationMaster申请到资源后与对应的NodeManager通信,要求它启动Container并为任务设置好运行环境。

6)应用程序的任务开始在启动的Container中运行,各个任务向Application-Master汇报自己的状态和进度,以便ApplicationMaster随时掌握各个任务的运行状态,从而可以在任务失败时重新启动任务。

7)应用在运行的过程中,客户端通过轮询的方式主动与ApplicationMaster通信以获得应用的运行状态、执行进度等信息。

8)应用程序运行完成后,ApplicationMaster向ResourceManager注销并关闭自己。

image.png

图2-13 YARN的工作流程


【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。