成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

擁抱大數據 需要大智慧

新聞
近年來,關注大數據應用的人也越來越多。總體來說,人們對大數據的前景持樂觀態度,但其實,大也有大的難處,大數據也不可避免地存在著一些負面劣勢。結合筆者的從業經驗,大數據的負面劣勢可以概括為4個“n”,本文逐一說明每個n的含義。

近年來,有關大數據的熱點話題一浪高過一浪,關注大數據應用的人也越來越多。總體來說,人們對大數據的前景持樂觀態度,比如談到大數據的技術特征,人們最容易想起的就是4個“v”:vast(數量龐大)、variety(種類繁多)、velocity(增長迅速)和value(總價值高)。這些都沒錯,但仔細一想,它們都是偏重說明大數據的正面優勢的。但其實,大也有大的難處,大數據也不可避免地存在著一些負面劣勢。結合筆者的從業經驗,大數據的負面劣勢可以概括為4個“n”,下面逐一說明每個n的含義。

inflated大數據是肥胖的。大數據的大不僅僅體現在數據記錄的行數多,更體現在字段變量的列數多,這就為分析多因素之間的關聯性帶來了難度。哪怕是最簡單的方差分析,計算一兩個還行,計算一兩百個就讓人望而生畏了。

unstructured大數據是非結構化的。大數據的結構也是非常復雜的,既包括像交易額、時間等連續型變量,像性別、工作類型等離散型變量這樣傳統的結構化數據,更增添了如文本、社會關系網絡,乃至語音、圖像等大量新興的非結構化數據,而這些非結構化數據蘊含的信息量往往更加巨大,但分析手段卻略顯單薄。

incomplete大數據是殘缺的。在現實的世界里,由于用戶登記的信息不全、計算機數據存儲的錯誤等種種原因,數據缺失是常見的現象。在大數據的場景下,數據缺失更是家常便飯,這就為后期的分析與建模質量增加了不確定的風險。

abnormal大數據是異常的。同樣,在現實的世界里,大數據里還有不少異常值(outlier)。比如某些連續型變量(如一個短期時間內的交易金額)的取之太大,某些離散型變量(如某個被選購的產品名稱)里的某個水平值出現的次數太少,等等。如果不刪除,很可能干擾模型系數的計算和評估;如果直接刪除,又覺得缺乏說服力,容易引起他人的質疑。這使得分析人員落到了一個進退兩難的境地。

如果不能處理好這些不利因素,大數據應用的優勢很難發揮出來。想要擁抱大數據,并不是一項在常規條件下數據分析的簡單升級,而是一項需要大智慧的綜合工作。STIR(喚醒)策略是筆者在實踐工作中提煉出來的、能夠在實際工作中有效克服大數據負面劣勢的應對方法。具體來說,STIR策略包含了四種技術手段,目前都已經有機地整合在統計分析與數據挖掘專業軟件JMP中了,它可以用來解決上文提出的四個問題,下面將分別說明。

Switching Variables切換變量

它是用來解決大數據“殘缺”問題的。通過“列轉換器”、“動畫播放”等工具,海量因素之間的關聯性分析變得十分簡單、快捷,還可以根據需要對關聯性的重要程度進行排序,大數據分析的效率由此得到大幅提升。

 

 基于JMP軟件的關聯性分析篩選的界面

Text Mining文本挖掘

它是用來解決大數據“非結構化”問題的。通過先對文字、圖像等新媒體信息源進行降維、去噪、轉換等處理,產生結構化數據,再用成熟的統計分析和數據挖掘方法進行評價和解釋。這樣一來,大數據的應用范圍得到了極大的拓展。

 

基于JMP軟件的文本分析結果的最終展現界面

Imputation缺失數賦值

它是用來解決大數據“殘缺”問題的。在有missing data的時候,我們并不完全排斥直接刪除的方法,但更多的時候,我們會在條件允許的情況下,用賦值的方法去替代原先的缺失值。具體的技術很多,簡單的如計算平均值、中位數、眾數之類的統計量,復雜的如用回歸、決策樹、貝葉斯定理去預測缺失數的近似值等。這樣一來,大數據的質量大為改觀,為后期的分析與建模奠定了扎實的基礎。

 

基于JMP軟件的缺失數賦值方法選擇的操作界面

Robust Modeling穩健建模

它是用來解決大數據“異常”問題的。在融入了自動識別、重要性加權等處理手段后,分析人員既直接消除了個別強影響點的敏感程度,又綜合考慮了所有數據的影響,增強了模型的抗干擾能力,使得模型體現出良好的預測特性,由此做出的業務決策自然變得更加科學、精準。

 

 基于JMP軟件的模型穩健擬合的報表界面

總之,我們必須要對大數據有一個全面、客觀的認識。只有在不同的業務和數據背景下采用不同的戰略戰術,才能在大數據時代,真正發揮大數據的杠桿作用,有效提高企業的運營效率和市場競爭力。

責任編輯:鳶瑋 來源: JMP
相關推薦

2017-05-27 10:12:12

大數據追溯系統二維碼

2018-09-27 15:03:21

大數據城市建設數據挖掘

2015-04-24 10:08:24

甲骨文PaaS

2013-11-27 09:34:21

初志科技數據動車

2014-11-05 14:06:14

2014-11-07 17:39:09

銳捷

2013-06-27 10:53:32

2023-07-18 16:49:44

智慧城市智能科技

2024-03-12 11:31:42

智慧城市智能技術

2013-08-09 10:11:20

2013-04-03 11:01:56

海關數據倉庫云平臺微軟

2010-04-16 10:05:24

Windows 7內存

2012-12-12 13:50:01

臺式機小機箱

2015-10-10 13:35:26

2011-05-05 15:07:48

魅酷Mini索泰

2010-04-15 05:31:15

英特爾嵌入式車載

2012-10-25 14:49:06

2020-12-24 09:50:41

熱點新聞智慧城市Covid-19

2018-03-24 11:54:47

阿里云媒體轉型

2012-10-23 18:52:54

酷樂視微型投影機
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 成人久久| 九九久久国产 | 国产日批 | 日韩电影一区 | 99成人| 国产精品久久久久久一区二区三区 | 国产精品久久久久999 | 久婷婷| 国产一级在线 | 美女视频一区二区三区 | 日韩视频在线播放 | 亚洲伊人a | 国产欧美一区二区三区在线播放 | 精品日韩在线 | 亚洲国产aⅴ精品 | 麻豆视频在线看 | 91亚洲国产 | 一本一道久久a久久精品蜜桃 | 羞羞色在线观看 | 欧美色性| 亚洲精品一区二区久 | 99re在线视频免费观看 | 国产一区二区三区 | 成年人黄色小视频 | 羞羞的视频免费观看 | 亚洲iv一区二区三区 | 日韩一区二区三区在线播放 | 亚洲第一在线视频 | 最新中文字幕在线 | 国产精品久久久久久久久久免费看 | 黑人巨大精品欧美一区二区一视频 | 亚洲精品视频久久 | 国产精品日韩欧美一区二区 | 亚洲精品99 | 欧美午夜精品 | 中文字幕在线国产 | 国产精品久久久久久福利一牛影视 | 天天天操 | 国产农村一级国产农村 | 狠狠操你 | 9999国产精品欧美久久久久久 |