Spark 的Shuffle过程详解(待续...)_spark何时进行shuffle-CSDN博客

网站介绍:文章浏览阅读2.4k次,点赞3次,收藏17次。文章目录1.Shuffle的作用是什么?2. Spark中shuffle的运行时机3.Spark目前的ShuffleManage模式及处理机制HashShuffle3.1 HashShuffle3.1.1 shuffle write3.1.2 shuffle read磁盘小文件过多带来的问题?3.2 优化后的HashShuffleManager3.3 两种HashShuffle的磁盘小文件数目的对..._spark何时进行shuffle