成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Flink為什么比Spark快?大數據流處理的框架比較

大數據 Spark
大數據處理的新趨勢,流處理和批處理是非常重要的兩個概念,而基于流處理和批處理的大數據處理框架,Flink和Spark,也是常常被大家拿來做比較的對象。而在實時流數據處理上,Flink性能似乎更加強勁,那么Flink為什么比Spark快呢,今天我們就來聊聊這個話題。

大數據處理的新趨勢,流處理和批處理是非常重要的兩個概念,而基于流處理和批處理的大數據處理框架,Flink和Spark,也是常常被大家拿來做比較的對象。而在實時流數據處理上,Flink性能似乎更加強勁,那么Flink為什么比Spark快呢,今天我們就來聊聊這個話題。

Spark和Flink都是針對于實時數據處理的框架,并且兩者也都在實際的工作當中表現出色,但是如果要深究兩者在大數據處理的區別,我們需要從Spark和Flink的引擎技術開始講起。

[[322171]]

Spark和Flink計算引擎,在處理大規模數據上,數據模型和處理模型有很大的差別。

Spark的數據模型是彈性分布式數據集RDD(Resilient Distributed Datasets)。RDD可以實現為分布式共享內存或者完全虛擬化(即有的中間結果RDD當下游處理完全在本地時可以直接優化省略掉)。這樣可以省掉很多不必要的I/O,是早期Spark性能優勢的主要原因。

Spark用RDD上的變換(算子)來描述數據處理。每個算子(如map,filter,join)生成一個新的RDD。所有的算子組成一個有向無環圖(DAG)。這就是Spark進行數據處理的核心機制。

而Flink的基本數據模型,則是數據流,及事件(Event)的序列。數據流作為數據的基本模型,這個流可以是無邊界的無限流,即一般意義上的流處理。也可以是有邊界的有限流,這樣就是批處理。

Flink用數據流上的變換(算子)來描述數據處理。每個算子生成一個新的數據流。在算子,DAG,和上下游算子鏈接(chaining)這些方面,和Spark的基本思路是一樣的。

但是在在DAG的執行上,Spark和Flink有明顯的不同。

在Flink的流執行模式中,一個事件在一個節點處理完后的輸出就可以發到下一個節點立即處理。這樣執行引擎并不會引入額外的延遲。而Spark的micro batch和一般的batch執行一樣,處理完上游的stage得到輸出之后才開始下游的stage。

這也就是Flink為什么比Spark快的原因之一。并且Flink在數據流計算執行時,還可以把多個事件一起進行傳輸和計算,進一步實現數據計算的低延遲。所以Flink之所以快,其實也可以理解為比Spark的延遲性更低。

責任編輯:未麗燕 來源: 今日頭條
相關推薦

2021-12-14 09:56:51

HadoopSparkKafka

2019-06-18 13:51:08

大數據流處理新興市場

2019-07-05 12:16:26

大數據IT互聯網

2019-05-23 15:44:55

Flink大數據框架

2016-12-14 12:02:01

StormHadoop大數據

2017-02-14 14:20:02

StormHadoop

2019-12-19 14:38:08

Flink SQL數據流Join

2017-02-14 13:11:23

HadoopStormSamza

2017-09-06 17:05:54

大數據處理流程處理框架

2018-04-03 10:33:15

大數據

2017-03-23 14:37:19

WebAssemblyasm.js編程

2020-04-29 09:34:13

FlinkStormSpark

2024-12-27 14:45:59

2018-07-25 15:31:51

SparkFlink大數據

2021-01-21 07:53:29

面試官Promis打印e

2023-04-07 08:17:39

fasthttp場景設計HTTP

2016-05-19 10:31:35

數據處理CassandraSpark

2022-02-09 15:23:41

大數據流計算Spark

2023-08-07 09:00:00

2016-11-08 11:07:07

大數據流StreamSets
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 三级在线视频 | 国产一区二区三区精品久久久 | 在线观看精品视频网站 | 99久久婷婷 | 国产成人久久av免费高清密臂 | 欧美久| 午夜免费视频 | 欧美成人精品一区二区男人看 | 一级毛片高清 | 91精品国产色综合久久 | 欧美二区三区 | 亚洲午夜网 | 精品久久99 | 日韩精品极品视频在线观看免费 | 久久不射网| 一本色道精品久久一区二区三区 | av 一区二区三区 | 亚洲欧美综合 | 国产精品极品美女在线观看免费 | 国产精品日韩欧美一区二区 | 亚洲国产一区二区三区 | 中文字幕亚洲精品 | 久久黄色网 | 在线观看亚 | 91精品国产91久久久久游泳池 | www国产亚洲精品久久网站 | 国产大毛片 | 免费看a| 操人视频在线观看 | 国产精品1区2区3区 一区中文字幕 | 一区二区三区高清在线观看 | 91成人免费看 | 国产精品福利一区二区三区 | 好姑娘高清在线观看电影 | 2018国产精品 | 二区亚洲| 亚洲人人 | 中文字幕一区在线观看视频 | 午夜三级视频 | 欧美9999| 久久久久久国产精品 |