專家詳談Hadoop云計算
本節向大家介紹一下有關Hadoop云計算的問題,No Comments Google和Amazon已經走在了云計算商業化的前面,在他們后面則是一群開源的云計算項目。這讓我們多了一些選擇,可以考慮... ,我們一起來看一下Hadoop云計算的具體介紹簡介,首先看一下Hadoop的概念。
Hadoop 簡介
Hadoop 是一個開源的可運行于大規模集群上的分布式并行編程框架,由于分布式存儲對于分布式編程來說是必不可少的,這個框架中還包含了一個分布式文件系統 HDFS( Hadoop Distributed File System )。也許到目前為止,Hadoop 還不是那么廣為人知,其***的版本號也僅僅是 0.16,距離 1.0 似乎都還有很長的一段距離,但提及 Hadoop 一脈相承的另外兩個開源項目 Nutch 和 Lucene ( 三者的創始人都是 Doug Cutting ),那絕對是大名鼎鼎。Lucene 是一個用 Java 開發的開源高性能全文檢索工具包,它不是一個完整的應用程序,而是一套簡單易用的 API 。在全世界范圍內,已有無數的軟件系統,Web 網站基于 Lucene 實現了全文檢索功能,后來 Doug Cutting 又開創了***個開源的 Web 搜索引擎(http://www.nutch.org/) Nutch, 它在 Lucene 的基礎上增加了網絡爬蟲和一些和 Web 相關的功能,一些解析各類文檔格式的插件等,此外,Nutch 中還包含了一個分布式文件系統用于存儲數據。從 Nutch 0.8.0 版本之后,Doug Cutting 把 Nutch 中的分布式文件系統以及實現 MapReduce 算法的代碼獨立出來形成了一個新的開源項 Hadoop。Nutch 也演化為基于 Lucene 全文檢索以及 Hadoop 分布式計算平臺的一個開源搜索引擎。
Hadoop云計算
基于Hadoop,你可以輕松地編寫可處理海量數據的分布式并行程序,并將其運行于由成百上千個結點組成的大規模計算機集群上。從目前的情況來看,Hadoop 注定會有一個輝煌的未來:"云計算"是目前灸手可熱的技術名詞,全球各大 IT 公司都在投資和推廣這種新一代的計算模式,而 Hadoop 又被其中幾家主要的公司用作其"云計算"環境中的重要基礎軟件,如:雅虎正在借助 Hadoop 開源平臺的力量對抗 Google, 除了資助 Hadoop 開發團隊外,還在開發基于 Hadoop 的開源項目 Pig, 這是一個專注于海量數據集分析的分布式計算程序。Amazon 公司基于 Hadoop 推出了 Amazon S3 ( Amazon Simple Storage Service ),提供可靠,快速,可擴展的網絡存儲服務,以及一個商用的云計算平臺 Amazon EC2 ( Amazon Elastic Compute Cloud )。在 IBM 公司的云計算項目--"藍云計劃"中,Hadoop 也是其中重要的基礎軟件。Google 正在跟IBM合作,共同推廣基于 Hadoop云計算。
【編輯推薦】