成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Docker和hadoop的碰撞將決定誰才是救世主

大數據 Hadoop
綜合來說,Docker和hadoop體系在云下物理機的場景非常有限,未來在云上替代VM解決彈性伸縮問題應該有發展。

Docker很熱,怎么形容?感覺開源除了spark技術,就是docker了,甚至把Go語言也帶火了,把Go在TIOBE的排名從百名外帶入主流語言的行列。

Docker快成救世主了,這么牛逼的技術,docker和hadoop碰撞出什么火花來呢,是不是得趕緊用上呢?

就不介紹具體什么是docker了,不是一門全新的技術,是基于LXC的高級容器引擎,從linux內核發展出來的輕量隔離技術。相比單純的隔離,核心是標準化了鏡像打包,部署和發布這個過程,相當于標準化了開發過程。就運行態來說,相比VM,核心優勢就是輕量,劣勢也明顯,安全性不足,容易攻破。下圖是一個VM和容器的對比:

VM和容器的對比

關于LXC,google的大規模集群管理工具borg號稱十年前就使用上了,使用場景就是大數據場景,而且批量/實時場景號稱都支持的很好,集群資源利用率也非常高,所以照這個說起來,大數據和docker淵源很深。

但是現實的情況是,docker在hadoop領域用的并不是很好。目前主流兩種用法:

第一種方法是用Docker來直接運行Hadoop。例如hortonworks,收購了一家叫SequenceIQ的公司,通過叫Cloudbreak的技術,將Hortonworks Data Platform(HDP)打包成Docker鏡像,好處是可以在微軟Azure、亞馬遜AWS、谷歌云平臺等任何主流云平臺上啟動HDP。這種解決的是在多云平臺部署的問題。但是這個公司被收購之后也沒有更多的消息了。Github上的最后一次更新也在5個月之前。

這個至多只是解決開發環境的問題,hadoop很難在不同的環境下,不調優而跑出一致的表現,天生的使用場景受限,價值有限。

第二種方法是通過YARN來使用Docker容器進行應用部署,yarn是支持docker的,具體可以看看:

http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/DockerContainerExecutor.html

yarn作為資源管理,由于其擴展能力,一直被壓縮在了大數據領域,如果為了任務級別更高資源利用,通過FAIR調度算法足于,更強的隔離反而限制了資源的彈性使用。

當前資源調度更火是k8s(google主推,號稱從borg發展而來)和mesos(伯克利大學主推)。瞄準的場景也更多的是應用級別,yarn支持docker處在一個很尷尬的地步。

綜合來說,hadoop體系有自己的一套資源管理系統,要解決的問題是多個服務器并行調度起來當一個服務器使用的問題。而docker技術本質上和VM一樣,是將一個服務器拆成多份給更多的應用使用。Docker和hadoop體系在云下物理機的場景非常有限,未來在云上替代VM解決彈性伸縮問題應該有發展。

【本文為51CTO專欄作者“大數據和云計算”的原創稿件,轉載請通過微信公眾號獲取聯系和授權】

戳這里,看該作者更多好文

責任編輯:趙寧寧 來源: 51CTO專欄
相關推薦

2023-01-28 10:55:39

Unicode代碼

2013-06-09 09:33:41

Windows RedWindows 8

2016-04-01 10:13:08

SDN數據中心

2011-04-29 09:44:47

2009-10-11 09:13:39

Windows 7市場部署

2009-11-28 20:10:54

Chrome OS谷歌

2019-02-27 15:36:04

智能手機折疊屏移動通信

2016-05-12 16:39:57

IT運維網絡

2022-11-10 12:12:19

2011-08-19 09:54:19

云計算CIO

2011-08-27 09:26:03

投影儀技巧

2011-04-11 14:15:37

Android 3.0平板電腦Android

2020-11-23 08:21:02

CTO交流學習

2013-12-11 10:21:25

Windows 8.1Windows 8

2023-09-07 10:47:47

2018-03-07 13:56:24

2018-12-06 13:29:31

網絡5G物聯網

2022-08-22 09:04:42

架構師技能

2012-10-23 13:32:41

Win8PC

2011-03-31 09:11:34

JavaOracle
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 在线观看av网站永久 | 国产综合视频 | 久久99久久98精品免观看软件 | 精国产品一区二区三区 | 精品亚洲一区二区三区 | 狠狠久久久 | 国产一区999 | 就操在线 | 亚洲国产日韩欧美 | 国产精品久久久久久久久久久新郎 | 亚洲一区中文字幕在线观看 | 欧美成人精品一区二区男人看 | 成人精品一区二区三区中文字幕 | 日本不卡一区二区三区 | 男女污网站 | 欧美成年网站 | 国产高潮av| 99在线观看 | 亚洲免费毛片 | 在线免费观看日本视频 | 日本超碰 | 欧美福利视频 | 特级做a爱片免费69 精品国产鲁一鲁一区二区张丽 | 国产午夜精品久久久久免费视高清 | 伊人爽 | 成人av网站在线观看 | 2019中文字幕视频 | 麻豆久久久久久久久久 | 国产精品99久久久久久宅男 | 精品一区久久 | 精品久久久久久 | 国产成人在线一区 | 国产日韩精品视频 | 久久久精品网站 | 99看片网| 成人在线观看黄 | 91在线免费视频 | 91久色| 伊人激情综合网 | 国产精品久久久久久影视 | 成人一区二区三区在线 |