成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

MPP與Hadoop,兩種主流大數(shù)據(jù)系統(tǒng)架構(gòu)有啥區(qū)別?

大數(shù)據(jù) Hadoop
總體來說,Hadoop架構(gòu)在數(shù)據(jù)量較低的情況下,運(yùn)行速度遠(yuǎn)不及MPP架構(gòu),但數(shù)據(jù)量一旦超過某個(gè)量級(jí),Hadoop架構(gòu)在吞吐量方面將非常有優(yōu)勢。

同樣都可以處理大規(guī)模數(shù)據(jù)的MPP數(shù)據(jù)庫架構(gòu)與Hadoop體系架構(gòu)屬于不同的技術(shù)體系,二者沒有直接的相關(guān)性,卻常常被放在一起進(jìn)行比較。特別是在企業(yè)數(shù)據(jù)倉庫建設(shè)中,MPP架構(gòu)與Hadoop架構(gòu)代表兩類典型的技術(shù)路線選型,事實(shí)上,在2015年左右甚至有人認(rèn)為基于Hadoop體系的數(shù)倉將徹底取代基于MPP數(shù)據(jù)庫的數(shù)倉。

1. 設(shè)計(jì)思路對(duì)比

兩類系統(tǒng)運(yùn)行的硬件架構(gòu)是相同的,都是普通服務(wù)器組成的集群,但從資源管理角度來說,它們并行化軟件實(shí)現(xiàn)的設(shè)計(jì)思路卻是相反的。

MPP架構(gòu)相當(dāng)于對(duì)單機(jī)的各類資源進(jìn)行垂直綜合管理,再將多個(gè)單機(jī)系統(tǒng)橫向連接進(jìn)行集成,可以說是先垂直后水平。

Hadoop架構(gòu)相當(dāng)于將所有機(jī)器的存儲(chǔ)資源與計(jì)算資源抽象出來,分開管理,再進(jìn)行組件級(jí)的垂直集成,可以說是先水平后垂直。

MPP與Hadoop架構(gòu)對(duì)比如圖1所示。

  ▲圖1 MPP與Hadoop架構(gòu)對(duì)比

具體分析如下:

MPP架構(gòu)是將許多單機(jī)數(shù)據(jù)庫通過網(wǎng)絡(luò)連接起來,相當(dāng)于將一個(gè)個(gè)垂直系統(tǒng)橫向連接,形成一個(gè)統(tǒng)一對(duì)外服務(wù)的分布式數(shù)據(jù)庫系統(tǒng),每個(gè)節(jié)點(diǎn)由一個(gè)單機(jī)數(shù)據(jù)庫系統(tǒng)獨(dú)立管理和操作該節(jié)點(diǎn)所在物理機(jī)上的所有資源(CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)),節(jié)點(diǎn)內(nèi)系統(tǒng)的各組件間的相互調(diào)用不需要通過控制節(jié)點(diǎn),即對(duì)控制節(jié)點(diǎn)來說,每個(gè)節(jié)點(diǎn)的內(nèi)部運(yùn)行過程相對(duì)透明。

Hadoop架構(gòu)是將不同的資源管理與功能進(jìn)行分層抽象設(shè)計(jì),每層形成一類組件,實(shí)現(xiàn)一定程度的解耦,包括存儲(chǔ)資源管理、計(jì)算資源管理、通用并行計(jì)算框架、各類分析功能等,在每層內(nèi)進(jìn)行跨節(jié)點(diǎn)的資源統(tǒng)一管理或功能并行執(zhí)行,層與層之間通過接口調(diào)用,相互透明,節(jié)點(diǎn)內(nèi)不同層的組件間的相互調(diào)用需要由控制節(jié)點(diǎn)掌握或通過控制節(jié)點(diǎn)協(xié)調(diào),即控制節(jié)點(diǎn)了解每個(gè)節(jié)點(diǎn)內(nèi)不同層組件間的互動(dòng)過程。

2. 優(yōu)缺點(diǎn)對(duì)比

MPP架構(gòu)的優(yōu)缺點(diǎn)總結(jié)如下:

  • 支持標(biāo)準(zhǔn)SQL,每個(gè)節(jié)點(diǎn)都有豐富的事務(wù)處理和管理功能;
  • 資源管理精細(xì);
  • 更適合預(yù)知數(shù)據(jù)結(jié)構(gòu)模型的中等規(guī)模的固定模式數(shù)據(jù)管理;
  • 集群規(guī)模調(diào)整要求較多,增減節(jié)點(diǎn)時(shí)通常需要停機(jī),且有的系統(tǒng)只能增加不能減少;
  • 延遲小,相對(duì)吞吐量一般,單節(jié)點(diǎn)緩慢會(huì)拖累整體性能;

表記錄進(jìn)行水平分割存儲(chǔ),方法通常包括一致性哈希(Consistent Hashing)、循環(huán)寫入(Round Robin),但容易產(chǎn)生數(shù)據(jù)熱點(diǎn)。

Hadoop架構(gòu)的優(yōu)缺點(diǎn)總結(jié)如下:

  • 每個(gè)節(jié)點(diǎn)功能簡單,不具備豐富的數(shù)據(jù)管理功能,不支持事務(wù);
  • 數(shù)據(jù)更新采用追加方式實(shí)現(xiàn),同等數(shù)據(jù)量處理需要的資源更多;
  • 可以不用預(yù)先了解數(shù)據(jù)的格式與內(nèi)容;
  • 擴(kuò)展性好,支持集群規(guī)模更大,能動(dòng)態(tài)擴(kuò)容,支持?jǐn)U充僅用于計(jì)算的節(jié)點(diǎn);
  • 延遲高、吞吐量大、容錯(cuò)性(Failover)好。

總體來說,Hadoop架構(gòu)在數(shù)據(jù)量較低的情況下,運(yùn)行速度遠(yuǎn)不及MPP架構(gòu),但數(shù)據(jù)量一旦超過某個(gè)量級(jí),Hadoop架構(gòu)在吞吐量方面將非常有優(yōu)勢。有些大數(shù)據(jù)數(shù)據(jù)倉庫產(chǎn)品也采用混合架構(gòu),以融合兩者的優(yōu)點(diǎn),例如Impala、Presto等都是基于HDFS的MPP分析引擎,僅利用HDFS實(shí)現(xiàn)分區(qū)容錯(cuò)性,放棄MapReduce計(jì)算模型,在面向OLAP場景時(shí)可實(shí)現(xiàn)更好的性能,降低延遲。

責(zé)任編輯:趙寧寧 來源: IT168網(wǎng)站
相關(guān)推薦

2022-06-29 18:31:00

大數(shù)據(jù)系統(tǒng)架構(gòu)

2016-03-31 11:06:03

宏杉

2012-12-18 09:39:48

大數(shù)據(jù)SaaS掘金大數(shù)據(jù)

2013-05-27 14:31:34

Hadoop 2.0

2022-06-26 18:52:02

Hadoop大數(shù)據(jù)系統(tǒng)

2022-06-21 11:14:51

大數(shù)據(jù)系統(tǒng)架構(gòu)

2011-11-07 09:31:20

大數(shù)據(jù)Hadoop

2021-04-28 07:34:46

SpringScheduledAsync

2018-07-30 09:06:46

大數(shù)據(jù)Hadoop數(shù)據(jù)架構(gòu)

2016-11-07 09:02:02

Malloc內(nèi)存syscall

2014-01-07 14:04:13

HadoopMapReduce

2009-06-23 18:18:13

SpringHibernate

2011-04-06 11:05:21

SQL Server數(shù)交換數(shù)據(jù)

2022-01-12 09:31:18

Go 變量方式

2021-11-02 09:50:37

MPPHadoop架構(gòu)

2017-04-18 14:31:39

機(jī)器學(xué)習(xí)模型架構(gòu)

2018-12-03 09:03:18

SANNAS存儲(chǔ)系統(tǒng)

2023-01-06 11:08:51

MPP架構(gòu)Hadoop

2018-09-30 15:55:56

2015-04-29 17:40:53

企業(yè)網(wǎng)D1Net
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 99re视频这里只有精品 | 欧美国产中文 | 人人干人人舔 | 97精品国产97久久久久久免费 | 国产精品久久久久久吹潮日韩动画 | 网址黄 | 一二三四在线视频观看社区 | 久久久久久久久久久高潮一区二区 | 九九热这里 | 午夜成人免费视频 | 久久成人18免费网站 | 成人免费视频观看 | 中文字幕国产第一页 | 久久r精品 | 亚洲综合色婷婷 | 亚洲欧洲精品在线 | 亚洲高清视频在线 | 国产性网 | 国产美女在线免费观看 | 久草在线高清 | 国产精品成av人在线视午夜片 | 日韩视频三区 | 性高朝久久久久久久3小时 av一区二区三区四区 | 欧美一级毛片免费观看 | 天天操天天干天天透 | a视频在线| 在线国产一区 | 午夜看片 | 亚洲午夜精品一区二区三区 | 美人の美乳で授乳プレイ | 国产精品视频免费观看 | 91porn成人精品 | 一级毛片色一级 | 日韩成人精品一区 | 黄色免费在线网址 | 欧美aaaaaa| 欧美成人一区二区 | 成年人网站国产 | 国产精品一区二区久久 | 亚洲va中文字幕 | 欧美精品在线观看 |