Spark运行模式(资源调度框架的使用,了解)

举报
孙中明 发表于 2022/02/23 08:25:51 2022/02/23
【摘要】 Spark运行模式(资源调度框架的使用,了解)Local模式:启动多线程或者多进程对程序进行单机调试的。分布式部署模式:👉Standalone模式:独立模式,自带完整的模式。在架构上和 MapReduce1比较,具有一致性,都是由Master、worker组成(只是名称不一样),资源抽象为粗粒式的slot,多少slot多少task。👉Spark on YARN:因为现在企业用到 had...

Spark运行模式(资源调度框架的使用,了解)

  1. Local模式:启动多线程或者多进程对程序进行单机调试的。
  2. 分布式部署模式:
    👉Standalone模式:独立模式,自带完整的模式。在架构上和 MapReduce1比较,具有一致性,都是由Master、worker组成(只是名称不一样),资源抽象为粗粒式的slot,多少slot多少task。
    👉Spark on YARN:因为现在企业用到 hadoop是基于YARN 的,为了融合spark,进行统一资源管理。有两种方式, YARN-client(用于交互,client当中运行sparkContext进程进行任务分发监控),YARN-cluster 任务的分发和监控放在 MRAPPmaster当中。
    👉 Spark on mesos:YARN和 mesos都是统一资源管理和调度系统。mesos支持粗粒式和细粒式调度,前者节省了资源调度时间的开销,后者是不存在资源的浪费,但是资源调度延迟较大。
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。