spark-yarn提交流程_spark on yarn 提交流程-CSDN博客

网站介绍:文章浏览阅读679次。spark的yarn-client提交流程1. 在client端启动Driver进程,初始化作业,解析程序,初始化两个DAGScheduler,TaskScheduler. -- 初始化作业: 判断路径是否存在,权限校验等 -- DAGScheduler将程序的执行流程解析成DAG图,并划分阶段,根据阶段内的分区初始化Task -- TaskScheduler接收Task,等待分配Task给executor2. Driver会向ResourceManager,申请资源,想要启_spark on yarn 提交流程