當“大數據”來敲門
當你用一分鐘,看完這行文字的時候:
新浪已經發送了2萬條微博,蘋果已經下載了4.7萬次應用,淘寶已經賣出了6萬件商品,人人網發生了30萬次訪問,百度產生了90萬次搜索查詢。
2010年印刷版《大英百科全書》,32冊,重達58.5公斤。然而,它的全部內容,還裝不滿一個4G的U盤。有鑒于此,《大英百科全書》出版社今年3月對外宣布,不再推出印刷版,內容全面數字化。
在寬帶化、移動互聯網、物聯網、社交網絡、云計算的催生下,一個大數據的時代,不經意間順理成章地翩然而至。不久前,灃西大數據產業園悄然落戶陜西省西咸新區,發展大數據產業正在“試水”。
全球數據總量在以每兩年翻一番的速度增長
從事廣告文化創意行業的何先生,清晰地記得,從12年前購買的僅有20GB硬盤容量的家用計算機,到為滿足使用需求而不斷擴容的80GB、120GB、250GB、500GB的主機存儲空間,變化很快。“如今2TB的硬盤都不夠用,還得靠移動存儲設備來備份。”
根據IDC(國際數據公司)的監測統計,2011年全球數據總量已經達到1.8ZB(1ZB等于1萬億GB,1.8ZB也就相當于18億個1TB的移動硬盤),而這個數值還在以每兩年翻一番的速度增長,預計到2020年全球將總共擁有35ZB的數據量,增長近20倍。
由于數據規模的急劇膨脹,各行業累積的數據量越來越巨大,數據類型也越來越多、越來越復雜,已經超越了傳統數據管理系統、處理模式的能力范圍,于是“大數據”這樣一個在含義上趨近于“無窮大”的概念才會應運而生。
“首先在于體量大,是一個數據全集的概念”,國家工信部軟件服務業司司長陳偉為大數據概括出四方面特征,“第二是類型多,包括結構化數據、半結構化數據、非結構化數據等多種類型,其中視頻數據在目前占到了90%以上的總額;第三要求速度快,需要以秒級為目標進行實時動態處理。”
“最后在于價值密度”,陳偉認為,由于大量有用和可能沒用的數據并存,“遍地是金子,又遍地是沙子”,所以大數據的目的就在于從龐大的數據集合中找尋有價值的數據和知識,通過分析挖掘為各行業提供真正的智慧,“可以說21世紀是‘數據鉆出石油’的時代。”
“以交互數據為例,目前一些自媒體平臺,比如新浪微博,每天都有超過2500萬條的微博信息在發布,里面有很多有價值的信息尚未得到發掘”,中國電子信息產業發展研究院副總工程師李峻認為,在這樣龐大的非結構化數據背后,如何利用大數據技術,從海量堆積的交互數據當中發現帶有趨勢性、前瞻性的訊息,就能夠發現并產生巨大的社會價值和商業價值。 #p#
一個小蘋果背后的大數據:數據之和的價值遠大于數據的價值之和
“由于數據的存儲、分析、應用等方面的商業運營方式還沒有定型,這個行業發展的潛力、創新空間都十分巨大”,陜西省西咸新區管委會副主任、灃西新城管委會主任劉宇斌打了一個“小蘋果背后的大數據”的簡單比方:
以陜西省蘋果產業發展為例,諸如某品種蘋果種在哪里最適宜生長所需要的空間地理信息數據,與具體產區的蘋果產量、含糖量等數據疊加,并通過物聯網等手段賦予蘋果可追溯的唯一“身份”,在種植過程中實時監控,由每一個蘋果“反饋”收集而成的數據,假如足夠海量,就整合而成了大數據。
擁有了這些數據,首先可以通過數據租售服務的方式與潛在客戶產生價值,“此類商業模式體現了數據之和的價值遠遠大于數據的價值之和。”
其次,如能運用組群分析、數據挖掘等科學方法,輔以云計算、分布式存儲等手段,則可以對數據展開深層次分析和預測服務,“哪些蘋果品質最好,市場反應更好,明年產量銷量會怎樣,各地市場對蘋果購買的喜好會有何變化”,這種數據深挖及其背后的消費者行為預測分析,曾是統計學家的特權,未來則可能花費幾分鐘時間就可以完成。
數據經過積累,并與全國其他地方進行比對,則可為陜西蘋果產業發展提供決策支持服務,并成為政府、行業指導果農生產的決策依據,避免產品滯銷和果農利益受損。
最后,隨著數據和分析方法權威性的建立,數據服務商有可能搭建一個第三方大數據分析平臺,為更多的數據持有者提供數據整理、過濾、分析和處理服務,甚至有朝一日發展出類似于ebay、淘寶等電子商務交易平臺一樣的第三方數據共享交易平臺。 #p#
陜西在大數據產業布局中執行大工業電價,中國聯通項目一期8000個機柜一天節省電費40多萬元
在西咸新區規劃的25平方公里信息產業園中,國內首家大數據處理與服務專業園區——灃西大數據產業園正在布局建設,園區面積為3平方公里,分為基礎數據聚集區、數據應用研發區和數據拓展區三個板塊。陜西省力爭到2017年,建成以西咸為核心的國家級大數據處理與服務產業集群,到2020年底,灃西大數據產業園區將實現產值500億元,陜西省工信廳副廳長蔡蘇昌介紹說。
百度公司每購買一臺服務器,成本在3萬元左右,但是使用維護費用要超過3萬元,“這種情況下我們要不斷地保證數據中心節能降耗。”百度技術委員會理事長陳尚義說。
據了解,目前陜西省已在大數據產業布局、項目聚集、資金配套、基礎設施建設方面制定了相關政策,其中包括對入園企業執行大工業電價,并免除過網費。“電價占到數據企業成本的75%左右,目前園區已有三大運營商和全國人口信息處理與備份(西安)中心等項目落戶,拿中國聯通項目一期8000個機柜為例,一天就可以減少40多萬元的電價成本”,劉宇斌介紹。
大數據帶來的挑戰不僅在于“硬件”層面。“100年前的醫生可以了解醫學的所有分支,可是今天一名醫生面對的是大約10000種疾病綜合征、3000種藥品、1100種檢驗方法的海量知識”,國家信息化專家咨詢委員會副主任、中國工程院院士鄔賀銓認為,大數據產業需要從業人員既懂數據分析工具,又懂行業分析,而這樣的創新人才是奇缺的,“同時在大數據挖掘開發利用和安全以及隱私保護方面,我國還缺乏相應法律保障,需要通過機制創新來推動數據共享的實現。”