博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Spark算子:RDD行动Action操作(1)–first、count、reduce、collect
阅读量:7119 次
发布时间:2019-06-28

本文共 1471 字,大约阅读时间需要 4 分钟。

hot3.png

first

def first(): T

first返回RDD中的第一个元素,不排序。

 
  1. scala> var rdd1 = sc.makeRDD(Array(("A","1"),("B","2"),("C","3")),2)
  2. rdd1: org.apache.spark.rdd.RDD[(String, String)] = ParallelCollectionRDD[33] at makeRDD at :21
  3.  
  4. scala> rdd1.first
  5. res14: (String, String) = (A,1)
  6.  
  7. scala> var rdd1 = sc.makeRDD(Seq(10, 4, 2, 12, 3))
  8. rdd1: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[0] at makeRDD at :21
  9.  
  10. scala> rdd1.first
  11. res8: Int = 10
  12.  

count

def count(): Long

count返回RDD中的元素数量。

 
  1. scala> var rdd1 = sc.makeRDD(Array(("A","1"),("B","2"),("C","3")),2)
  2. rdd1: org.apache.spark.rdd.RDD[(String, String)] = ParallelCollectionRDD[34] at makeRDD at :21
  3.  
  4. scala> rdd1.count
  5. res15: Long = 3
  6.  

reduce

def reduce(f: (T, T) ⇒ T): T

根据映射函数f,对RDD中的元素进行二元计算,返回计算结果。

 
  1. scala> var rdd1 = sc.makeRDD(1 to 10,2)
  2. rdd1: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[36] at makeRDD at :21
  3.  
  4. scala> rdd1.reduce(_ + _)
  5. res18: Int = 55
  6.  
  7. scala> var rdd2 = sc.makeRDD(Array(("A",0),("A",2),("B",1),("B",2),("C",1)))
  8. rdd2: org.apache.spark.rdd.RDD[(String, Int)] = ParallelCollectionRDD[38] at makeRDD at :21
  9.  
  10. scala> rdd2.reduce((x,y) => {
  11. | (x._1 + y._1,x._2 + y._2)
  12. | })
  13. res21: (String, Int) = (CBBAA,6)
  14.  

collect

def collect(): Array[T]

collect用于将一个RDD转换成数组。

 
  1. scala> var rdd1 = sc.makeRDD(1 to 10,2)
  2. rdd1: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[36] at makeRDD at :21
  3.  
  4. scala> rdd1.collect
  5. res23: Array[Int] = Array(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)
  6.  

 

转载于:https://my.oschina.net/chensanti234/blog/809172

你可能感兴趣的文章
mySql学习笔记:比sql server书写要简单
查看>>
ajax封装
查看>>
例题9-6 UVa11400 Lighting System Design(DP)
查看>>
PAT1087 All Roads Lead to Rome (30)(最短路径+dfs+回溯)
查看>>
I.MX6 Manufacturing Tool V2 (MFGTool2) Emmc mksdcard-android.sh hacking
查看>>
learn go function callback
查看>>
远程启动程序
查看>>
FZU Tic-Tac-Toe -.- FZU邀请赛 FZU 2283
查看>>
hdu 5492 Find a path dp
查看>>
Leetcode c语言-Divide Two Integers
查看>>
关于j2ee工程发布到was上后,部分更新,例修改web.xml配置文件不起作用的原因解析【转】...
查看>>
二维(字符)数组输入(转载)
查看>>
RN中移动组件开发
查看>>
POJ 3349:Snowflake Snow Snowflakes 六片雪花找相同的 哈希
查看>>
UVA 11090 Going in Cycle!! 二分答案 + bellman-ford
查看>>
第八章:文本处理工具
查看>>
java websocket
查看>>
WebStorm Git 分支操作
查看>>
shell批量创建随机文件名格式文件
查看>>
阿里云-免费SSL证书申请及验证步骤
查看>>