网站介绍:文章浏览阅读679次。spark的yarn-client提交流程1. 在client端启动Driver进程,初始化作业,解析程序,初始化两个DAGScheduler,TaskScheduler. -- 初始化作业: 判断路径是否存在,权限校验等 -- DAGScheduler将程序的执行流程解析成DAG图,并划分阶段,根据阶段内的分区初始化Task -- TaskScheduler接收Task,等待分配Task给executor2. Driver会向ResourceManager,申请资源,想要启_spark on yarn 提交流程
- 链接地址:https://blog.csdn.net/weixin_48960305/article/details/120874704
- 链接标题:spark-yarn提交流程_spark on yarn 提交流程-CSDN博客
- 所属网站:blog.csdn.net
- 被收藏次数:2586
- 网站标签:spark on yarn 提交流程