文章浏览阅读703次。由于spark-shell 停止掉后,集群监控页面就看不到历史任务的运行情况,所以开发时都配置历史服务器记录任务运行情况。步骤修改 spark-defaults.conf.template 文件名为spark-defaults.conf[root@hadoop102 spark-standalone]# mv spa......
2024-01-24 07:16 阅读 阅读全文文章浏览阅读1.2k次。由于spark-shell停止掉后,hadoop102:4040页面就看不到历史任务的运行情况,所以开发时都配置历史服务器记录任务运行情况。1)修改spark-default.conf.template名称[mischen@hadoop102 conf]$ mv spark-defaults.conf.template spark-defau......
2024-01-24 05:46 阅读 阅读全文文章浏览阅读9.1k次,点赞7次,收藏4次。 默认情况下,Spark程序运行完毕关闭窗口之后,就无法再查看运行记录的Web UI(4040)了,但通过 HistoryServer 可以提供一个服务, 通过读取日志文件, 使得我们可以在程序运行结束后, 依......
2024-01-24 05:46 阅读 阅读全文文章浏览阅读424次。1 解压缩文件将spark-2.4.5-bin-without-hadoop-scala-2.12.tgz文件上传到linux并解压缩,放置在指定位置。tar -zxvf spark-2.4.5-bin-without-hadoop-scala-2.12.tgz -C /opt/modulecd /opt/module mv spark-2.4.5-bin-without-hadoop-scala-2.12 spark-yarnspark2.4.......
2024-01-24 05:58 阅读 阅读全文文章浏览阅读1.1k次。介绍spark也有历史服务器,监控已经运行完成的spark applicationstart-history-server.sh(1)将application运行的日志信息保存起来MapReduce运行的时候,启动了日期聚集功能:将日志信息 上传到HDFS目录(2)启动一个服......
2024-01-24 05:46 阅读 阅读全文文章浏览阅读219次。解压改名tar -zxvf spark-2.1.1-bin-hadoop2.7.tgz -C /opt/module/mv spark-2.1.1-bin-hadoop2.7 spark-standalone修改slave进入Spark的配置目录/opt/module/spark-standalone/conf 修改slave文件,添加work节点cd /opt/module/s..._/opt/module/spark-standalone/sbin/......
2024-01-24 05:55 阅读 阅读全文