我是靠谱客的博主 无语猫咪,这篇文章主要介绍Spark的转换操作(Transformation)和执行操作(Action)详解,现在分享给大家,希望可以做个参考。

对于RDD有两种计算方式:
转换操作(返回值还是一个RDD)---也叫懒操作,不是立即执行
执行操作(返回值不是一个RDD)---立即执行


转换操作(Transformation) (如:map,filter,groupBy,sortBy,join等),转换操作也叫懒操作,也就是说从一个RDD转换生成另一个RDD的操作不是马上执行,Spark在遇到转换操作时只会记录需要这样的操作,并不会去执行,需要等到有执行操作的时候才会真正启动计算过程进行计算。


执行操作(Action) (如:count,collect,save,reduce等),执行操作会返回结果或把RDD数据写到存储系统中。Actions是触发Spark启动计算的动因。

 

Transformation操作:

Action操作:

最后

以上就是无语猫咪最近收集整理的关于Spark的转换操作(Transformation)和执行操作(Action)详解的全部内容,更多相关Spark内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(94)

评论列表共有 0 条评论

立即
投稿
返回
顶部