网友收藏 大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己......
2023-10-10 03:35 阅读
阅读全文 网友收藏 文章浏览阅读1.2k次。Spark SQL上下文创建与测试环境搭建 版权声明:本文为博主原创文章,未经博主允许不得转载。 手动码字不易,请大家尊重劳动成果,谢谢 作者:http://blog.csdn.net/wang_wbqSpark SQL上下文创建这篇文章主要......
2024-01-22 16:12 阅读
阅读全文 网友收藏 文章浏览阅读1.6k次。拷贝hive中的MySQL jar包到spark 的jars目录mysql-connector-java-5.1.27-bin.jar 把表写入MysqL(自动创建表)scala> val df = spark.sql("select * from kfk.test") scala> import java.util.Propertiesimport java.util.Properties scala> val pro = n......
2024-01-24 04:58 阅读
阅读全文 网友收藏 文章浏览阅读1.1k次。spark on yarn-cluster在生产环境部署读取外部可配置化文件_spark yarn-cluster 部署命令...
2024-01-23 07:35 阅读
阅读全文 网友收藏 文章浏览阅读532次。Spark开发环境_scala 本地测试...
2024-01-23 03:09 阅读
阅读全文 网友收藏 文章浏览阅读5.3k次,点赞46次,收藏2次。 大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了......
2024-01-24 05:58 阅读
阅读全文 网友收藏 文章浏览阅读665次。官方下载地址:官方下载博主百度云下载Spark安装包 提取码:2uuf提取码:2uuf1.上传安装,解压●解压重命名cd /export/serverstar spark-2.2.0-bin-2.6.0-cdh5.14.0.tgzmv spark-2.2.0-bin-2.6.0-cdh5.14.0 spark●注意:如果有权限问题,......
2024-01-24 00:35 阅读
阅读全文 网友收藏 文章浏览阅读2.3k次。一、anaconda部分配置1、安装在官网下载安装包,https://www.anaconda.com/products/individual,选择windows版本进行下载。下载完成后直接安装,一直点下一步就行。2、配置环境变量将下面三个加入电脑的环境变量Path中......
2024-01-23 22:58 阅读
阅读全文 网友收藏 文章浏览阅读2.5k次,点赞2次,收藏13次。三, Spark 运行环境Spark 的运行模式有 Local(也称单节点模式),Standalone(集群模式),Spark on Yarn(运行在Yarn上),Mesos以及K8s, Windows模式等常用模式3.1 Local模式Local模式被定义为不需要其他......
2024-01-24 06:33 阅读
阅读全文 网友收藏 文章浏览阅读111次。文章目录spark通信环境Driver和Executor通信机制spark通信环境早期spark利用 Akka 作为内部通信部件,后来使用Netty替代AkkaBIO(阻塞式IO):当多个线程等待同一种资源时,在BIO模式下,未等到资源的线程会被阻塞NIO......
2024-01-23 21:10 阅读
阅读全文