成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Twitter發布Storm-Hadoop混合系統

云計算 Hadoop
Twitter 博客發文公布了Summingbird,公布細節的技術成分很大。但是,如果你想想Twitter 如何運行的,本質問題是很容易理解的。像Trending Topics(話題趨勢)和搜索一類的服務需要實時數據處理才會有用。但是最終還是需要準確性或許還要做一些深度分析。Storm有點像醫院里的治療類選科,而Hadoop則是長期患者護理。

Twitter 推出一個開源系統,旨在減低批處理和流式處理之間的交換,做法是把二者組合在一起成為一個混合系統。Twitter 用Hadoop做批處理,用Storm做流式處理,混合系統名為Summingbird。Summingbird沒法做每一件事,不過對完成其目標任務還是很方便的。

Twitter 博客發文公布了Summingbird,公布細節的技術成分很大。但是,如果你想想Twitter 如何運行的,本質問題是很容易理解的。像Trending Topics(話題趨勢)和搜索一類的服務需要實時數據處理才會有用。但是最終還是需要準確性或許還要做一些深度分析。Storm有點像醫院里的治療類選科,而Hadoop則是長期患者護理。

以下是Summingbird項目Wiki的描述,在高層次上解釋了Summingbird如何運作,解釋得不錯,具體實現當然會稍微復雜一點:

Summingbird的混合模式可以讓 Hadoop處理大多數的數據,并且可以從Manhattan一類的只讀存儲得到服務。Storm 則只處理那些Hadoop沒有處理過的數據,那些限于延遲窗里的數據。這些實時數據來自數據存儲。實時層的誤差是有限度的,原因是Hadoop ***會對原來的同一數據進行處理,因而會理順引進的誤差。

此類混合系統實際上越來越常見,很多公司認識到他們沒辦法單靠Hadoop在實時世界生存。我們以前報道過不少公司——其中有Gravity,LinkedIn和Netflix——他們也做過類似的東西。Summingbird也許有點不太一樣,原因是Summingbird要處理的數據同時來自Hadoop和Storm,和管道式地處理幾個不同的系統不一樣。但是網絡公司卻需要方法保證不會用速度來換取準確度,或反之。

我們沒找到Twitter 的人來特別討論Summingbird,不過我們的數據陣容還是很引人注目的,也許可以深刻說明這東西為什么重要。他們來自PayPal、MailChimp和LinkedIn這些地方,也有的是來自像Yahoo和NSA這樣的地方的企業家。

再多講一點點Summingbird。Twitter 實際上將其描述為“Streaming MapReduce”,原因是Summingbird的重點是作業聚合。網上有Twitter 的Sam Ritchie六月做的一個演講稿,大家可以看看。Yahoo的開源項目 Storm-YARN其實是在Hadoop群里面運行Storm,可以讓Storm訪問基于Hadoop的數據存儲,也值得看看。

責任編輯:王程程 來源: ZDNet存儲頻道
相關推薦

2014-04-08 14:21:09

Twitter StoStormStorm 集群

2012-12-06 10:59:51

大數據

2014-04-15 11:24:53

Twitter Sto

2016-12-14 12:02:01

StormHadoop大數據

2017-02-14 14:20:02

StormHadoop

2016-11-23 09:57:45

Apache KuduHadoop存儲

2013-03-01 09:39:53

HadoopTwitter大數據

2010-06-25 09:14:33

紅帽云計算混合云

2015-07-16 10:11:38

TwitterHadoop集群優化

2010-06-07 13:54:51

2014-01-13 09:36:37

Twitter開源軟件

2014-01-17 09:38:07

Twitter開源流處理

2023-03-22 15:29:50

NVIDIAQuantumMachines

2019-04-18 10:30:50

大數據Hadoop數據分析

2011-05-12 09:18:17

Twitter手機版Web AppTwitter

2013-01-10 12:54:29

大數據探討Twitter

2015-04-29 17:40:53

企業網D1Net

2012-05-28 09:23:40

JavaHadoopApache

2017-02-14 13:11:23

HadoopStormSamza

2014-02-14 15:49:03

storm安裝部署
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 日韩视频二区 | 毛片视频观看 | 久久精品国产一区老色匹 | 91国产在线视频在线 | 成年人视频在线免费观看 | 欧美最猛黑人xxxx黑人 | 九九在线视频 | 中文字幕在线中文 | 国产成人精品999在线观看 | 国产精品完整版 | 伦理二区| 欧美精品在线免费观看 | 亚洲福利电影网 | 欧美日韩在线成人 | 亚洲福利一区二区 | 日一日操一操 | 亚洲高清视频一区 | 婷婷91| 91色在线| 91久久精品一区二区三区 | 中文字幕国 | 欧美日韩久久精品 | 麻豆亚洲 | 色播久久久 | 日韩在线视频一区 | 国产精品美女久久久久久免费 | 久久极品 | 黄色免费网| 在线永久看片免费的视频 | 日本高清视频在线播放 | 国产精品夜夜春夜夜爽久久电影 | 91免费在线视频 | 午夜小视频免费观看 | 一区二区小视频 | 国内自拍视频在线观看 | 人人草人人干 | 亚洲男人的天堂网站 | 日韩中文字幕免费 | 国产精品91视频 | 国产成人av在线播放 | 亚洲狠狠爱 |