7個大數據流言——避免錯誤的Hadoop和云分析決策
Hadoop是由英雄們創造的開源傳奇,然而傳奇經常還伴隨著一些流言——這些流言可能會導致IT高管們帶著樂觀的心態去制定策略。
數據體積和數據使用在以驚人的速度增長著,這一點從分析師的分析中不難獲得——IDC今年在數據存儲上的 增長速度將達到53.4%,AT&T聲稱 無線數據的流量在過去的5年內增長200倍,如果你著眼自己通信渠道的話,將毫無疑問的發現互聯網內容、電子郵件、應用通知、社交消息以及每天自動接收的消息都在顯著的增長。這也是為什么 從McKinsey到Facebook再到Walmart都重點聚焦于大數據。
就像我們看到的90年代與2000年代的互聯網泡沫,大數據同樣會導致一些公司做出糟糕的設想和決策。
Hadoop毫無疑問是公司為了解決大數據需求的主要投資領域之一,而類似Facebook這些在大體積數據處理上有所建樹的公司都公開的吹捧過在Hadoop上取得的成功,同樣初入大數據領域的公司也必先著眼這些成功的典型。Adam Bloom的一個MIT(麻省理工學院)計算機科學校友曾對他說:“when all you have is a hammer, everything looks like a nail。”通過Hadoop的炒作,我們可以避免 功能固著(functional fixedness)這種認知偏差。 Hadoop是一個多維的解決方案,可以通過不同的方式進行部署和使用。下面就看一下公司在開始Hadoop項目之前必須了解的一些關于Hadoop和大數據的預先構想的錯誤理念:
1. 大數據只關系到體積
在體積之外,許多工業先鋒還經常提到 variety(多樣)、variability(可變)、velocity(速度)和value(價值)。撇開所有單詞都押頭韻,關鍵點在于大數據并不是體積上的增長——它正在向著實時分析、結構化和非結構化來源方向發展,并被用于嘗試和制定更好的決策。綜上所述,不是只有分析大體積數據才會獲得價值。舉個例子,超時限的存儲和分析1PB的數據的價值可能比不上實時分析1GB的數據。從工具集上考慮,你可能需要一個內存數據網絡進行實時的分析,從新鮮的數據上獲得價值,而不是去解剖過時的數據獲得價值。
2. 傳統SQL不可以在Hadoop上使用
當Facebook、Twitter、Yahoo!在Hadoop上豪賭時,他們同樣知道HDFS和MapReduce受限于處理類似SQL語言的能力,這也是 Hive、 Pig和 Sqoop最終得以孵化的原因。基于全球上大量的數據都是通過SQL來管理,一些公司和項目都在Hadoop和SQL的兼容上狠下功夫。
3. 取代大型機!Hadoop是唯一的新IT數據平臺
在IT投資組合里有很多一直長期存在的投資,而大型機就是這么一個例子,與ERP、CRM和SCM這些系統一樣演變至今。而如果大型機不想被公司或者架構遺棄,它就必須展示在現有投資環境中的價值。而VMware的許多客戶在使用大型機上都遇到了速度、規模和開銷的問題,但是并不是沒有途徑去解決這些問題,比如像vFabric SQLFire這樣的內存大數據網絡就可以被嵌入或者使用分布式緩存途徑去解決類似隊列的高速攝取、促進大型機的批處理或實時分析報告這些問題。
4. 虛擬化會導致性能下降
Hadoop最初的設計只是在實體服務器上運行,然而隨著越來越多機構的采用,許多公司都希望它能作為數據中心服務在云中運行。為什么這么多的公司都希望虛擬化Hadoop?首先要考慮管理基礎設施的擴展性,VMware快速的認識到擴展計算資源,比如虛擬Hadoop節點,當數據和計算分開時會對性能有所幫助,否則如果你關閉某個Hadoop節點將丟失上面的所有數據或者添加一個沒有數據的空節點。而鑒于這個原因,許多來自MapR、Hortonworks、Cloudera和Greenplum的專業Hadoop發行版都支持 Project Serengeti和 Hadoop Virtualization Extensions(HVE)。
5. Hadoop只可以在數據中心運行
首先,存在SaaS云服務解決方案。許多云服務允許你云端運行Hadoop、SQL,這無疑可以幫助你省下數據中心建造投資的時間和金錢。對于一個公有云運行時,Java開發者可以從Spring Data for Hadoop以及一些其它的GitHub中的用例獲益。
6. Hadoop對虛擬化毫無經濟價值
Hadoop通常解釋在一堆商用服務器上運行,這樣就會有人認為添加一個虛擬層在帶來額外支出的同時并不會有額外的價值收益。用這個觀點看是存在缺陷的,你并沒有考慮到數據和數據分析事實上都是動態的。想成為一個利用Hadoop能量去成長、創新及創造效率的公司,你必須改變數據的來源、分析的速度等等。虛擬化基礎設施同樣可以減少物理硬件的封裝,讓CAPEX直接等于純粹的商用硬件,而通過自動以及更搞笑的利用共享基礎設施同樣可以減少OPEX(運營成本)。
7. Hadoop不可以在SAN或NAS上運行
Hadoop在本地磁盤上運行,對于中小型集群它同樣可以在一個共享的SAN環境下運行良好。而高帶寬比如10GB Ethernet、PoE以及iSCSI對性能同樣有很好的支持。
總結
宣傳異或是炒作只能作為接受新事物的參考,在做決策之前必須進行深入的了解和分析。被流言所迷惑而做出錯誤的決策,必然會讓投資陷入危險的境地。