文章浏览阅读411次。内容:1、Scala中的类型变量Bounds代码实战2、泛型变量Bounds在Spark中的应用class Pair[T <: Comparable[T]](val first : T,val second : T){ def bigger = if(first.compareTo(second) > 0)first else second }class Pair_Lower...
2024-01-22 21:33 阅读 阅读全文文章浏览阅读46次。package com.leegh.actorimport scala.actors.Actorobject First_Actor extends Actor { def act() { for (i <- 1 to 10) { println("Step : " + i) println(Thread......
2024-01-23 18:27 阅读 阅读全文第66讲:Scala并发编程实战初体验及其在Spark源码中的应用解析笔记程序宏大时java并发编程变得非常复杂,java并发编程的理念是:基于共享数据和加锁的线程模型--若干程序访问共享数据,用监视器监控共享数据的访问。synchronize......
2023-10-10 03:27 阅读 阅读全文文章浏览阅读586次。Scala深入浅出进阶经典第66讲:Scala并发编程实战初体验及其在Spark源码中的应用解析...
2024-01-23 18:27 阅读 阅读全文文章浏览阅读606次。Scala深入浅出进阶经典第67讲:Scala并发编程匿名Actor、消息传递、偏函数实战解析及其在Spark源码中的应用解析_actor 偏函数...
2024-01-23 18:27 阅读 阅读全文文章浏览阅读316次。一:准备工作:1.1 准备一个被统计文件:[root@hadoop001 ~]# hadoop fs -ls /logs/inputFound 1 items-rw-r–r-- 3 root supergroup 97 2019-03-14 22:48 /logs/input/text.txt[root@hadoop001 ~]# hadoop fs -cat /l..._简述wc案例的提交过程...
2024-01-23 05:06 阅读 阅读全文文章浏览阅读57次。 本期视频通过代码实战详解了Scala并发编程匿名Actor、消息传递、偏函数实战解析及其在Spark源码中的应用解析:(1)匿名Actor是通过Actor伴生对象的actor方法直接创建和启动的,不像Actor的子类需要调用自......
2024-01-23 18:27 阅读 阅读全文文章浏览阅读2.8k次,点赞3次,收藏5次。Spark.version: 2.4.4Apache Spark 2.0引入了SparkSession,其为用户提供了一个统一的切入点来使用Spark的各项功能,例如不再需要显式地创建SparkConf, SparkContext 以及 SQLContext,因为这些对象已经封装......
2024-01-23 23:14 阅读 阅读全文文章浏览阅读1.1k次。大数据Spark “蘑菇云”行动前传第8课:零基础实战Scala最常用数据结构Map和Tuple及Spark源码解析 1 Map 和Tuple 在spark源码中的鉴赏2 Map 和Tuple 代码操作实战 map - tree - graph map:无为天地之始 有为万物之母 java: arra......
2024-01-22 22:09 阅读 阅读全文文章浏览阅读467次。Master入口函数: // 启动 Master 的入口函数 def main(argStrings: Array[String]) { Utils.initDaemon(log) val conf = new SparkConf // 构建用于参数解析的实例 --host hadoop102 --port 7077 -..._org.apache.spark.deploy.master.mast......
2024-01-24 04:23 阅读 阅读全文