Spark1.5.2日志配置&数据文件清理_dspark.worker.cleanup.appdatattl-CSDN博客

网站介绍:文章浏览阅读1.4k次。本节讨论Spark Standalone Mode 模式下的日志配置及作用运行过程中的历史文件的清理,避免线上环境的不合理配置导致大量的遗留数据填满磁盘导致节点服务不可用的情况。日志文件Spark原生支持使用log4j配置文件,针对于Spark集群的log4j日志文件应该放置在SPARK_HOME下的conf目录下使用log4j.properties进行配置,该配置文件针对于Spark集群中所有的..._dspark.worker.cleanup.appdatattl