成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Facebook分享:解決Hadoop的單一故障點

譯文
系統 Hadoop
Facebook的工程師們開發出了一種方法,以規避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。為了解決這個問題,Facebook開發出了一款名為Avatarnode的軟件:萬一主名稱節點由于某種原因而失效,該軟件就會切換至備用名稱節點。

【51CTO快譯】Facebook的工程師們開發出了一種方法,以規避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。

在本周于加利福尼亞州圣何塞召開的Hadoop峰會上,Facebook工程師Andrew Ryan討論了這種變通方法。他還在Facebook上發布了其演講的摘要內容

Facebook擁有可能是世界上規模最龐大的基于Hadoop分布式文件系統(HDFS)的數據集,總共超過100PB,散布于其諸數據中心的100個不同的集群之間。

盡管Hadoop越來越經常用于大規模數據分析任務,但是用專業的話來說,它存在單一故障點。雖然部署的Hadoop系統可能橫跨數百臺、乃至數千服務器,但是整個運營依賴一臺叫做名稱節點(namenode)的單一服務器,負責協調諸數據節點之間的所有流量。要是這一個名稱節點停止運行,那么諸數據節點就無法通信,整個系統將停止運行。

Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。

為了解決這個問題,Facebook開發出了一款名為Avatarnode的軟件:萬一主名稱節點由于某種原因而失效,該軟件就會切換至備用名稱節點。在這種架構中,每個數據節點會向主名稱節點和備用名稱節點定期發送***數據。萬一主名稱節點停止運行,那么備用名稱節點就會頂上來,繼續運行。這款軟件以詹姆斯•卡梅隆執導的影片《阿凡達》命名,它依賴Hadoop Zookeeper配置管理工具。

這家公司將阿凡達節點作為一款開源軟件來提供,希望Hadoop管理員們能夠得益于使用該軟件。Facebook早在2010年發布了該軟件,后來被用于處理該公司的生產任務。

Ryan寫道:“如今,阿凡達節點在運行我們Facebook內部要求***的生產工作負載,它會繼續大幅提升HDFS集群的可靠性和可管理性。展望未來,我們會努力進一步改進阿凡達節點,并且將它與一種可以自動安全地進行故障切換的通用高可用性框架集成起來。”

不止Facebook這一家公司在試圖解決Hadoop存在的這個問題。MapR和Cloudera的Hadoop發行版同樣都隨帶冗余的名稱節點功能。

原文:Facebook tackles Hadoop Achilles' Heel

 

責任編輯:yangsai 來源: 51CTO.com
相關推薦

2012-07-03 11:38:32

FacebookHadoop

2011-09-01 10:59:49

Foodily菜譜

2013-04-19 09:14:12

BYOD網絡解決方案

2013-01-08 10:06:43

創業創業方法

2021-07-26 12:10:37

FacebookMySQL 8.0數據庫

2011-08-29 10:15:13

FacebookHadoopHBase

2012-11-14 09:20:00

大數據PrismHadoop

2011-11-30 09:26:25

項目管理

2021-05-12 09:15:48

Facebook 開發技術

2011-12-02 09:39:22

項目管理

2009-12-22 15:25:23

2011-05-06 10:32:06

硬盤鍵盤

2013-02-21 12:32:20

2017-02-28 09:48:30

2013-11-28 09:35:57

Facebook開放計算交換機

2013-05-03 13:45:42

KVM故障調試

2018-10-09 15:00:43

Hadoop分布式架構

2010-02-22 10:16:39

獨立服務器問題訪問故障

2013-11-04 09:43:34

FacebookHadoop大數據

2024-03-18 09:10:00

死鎖日志binlog
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 日韩欧美视频网站 | 国产精品国产三级国产aⅴ入口 | 69福利影院 | 成人久久久 | 午夜电影在线播放 | 日日干夜夜操 | 国产成人一区二区 | 极品国产视频 | 国产小视频在线 | 97在线超碰 | 欧美一级欧美三级在线观看 | 亚洲国产精品视频一区 | 亚洲美乳中文字幕 | 国产精品久久久久久久久久久久久 | 日韩视频在线一区二区 | 久久九精品 | 99在线精品视频 | 国产欧美精品 | 欧美激情精品久久久久久 | 荷兰欧美一级毛片 | 国产精品免费一区二区三区四区 | 日韩和的一区二区 | 亚洲精品在线看 | 色站综合 | 二区三区视频 | 少妇无套高潮一二三区 | 91一区二区三区 | 亚洲国产精品99久久久久久久久 | 看特级黄色片 | 欧美黑人一区二区三区 | 成人av免费在线观看 | 日本免费一区二区三区 | 久久久久网站 | 久久新| 亚洲国产福利视频 | 午夜精品一区二区三区在线视频 | 国产福利在线播放 | 国产美女在线看 | 久久综合九九 | 免费国产一区二区视频 | 中文字幕在线人 |