成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

劉鵬教授:綠色云計(jì)算實(shí)踐之路

云計(jì)算
非常高興在這里跟大家分享一下我們?cè)朴?jì)算這方面做過(guò)的一些事情。目前,數(shù)據(jù)增長(zhǎng)有一個(gè)新的規(guī)定,人稱叫新摩爾定律,全球數(shù)據(jù)量每隔18個(gè)月就會(huì)翻一倍,指數(shù)據(jù)總量,所以比我們腦的摩爾定律大很多。大數(shù)據(jù)帶來(lái)的挑戰(zhàn)就是過(guò)去的這么多年來(lái),數(shù)據(jù)增長(zhǎng)現(xiàn)在是到了2000EB左右,這個(gè)量是在04年的時(shí)候只有30EB,所以這個(gè)增長(zhǎng)非???,現(xiàn)在每?jī)商飚a(chǎn)生的數(shù)據(jù),就相當(dāng)于03年以前全球所有數(shù)據(jù)的總和。

非常高興在這里跟大家分享一下我們?cè)朴?jì)算這方面做過(guò)的一些事情。目前,數(shù)據(jù)增長(zhǎng)有一個(gè)新的規(guī)定,人稱叫新摩爾定律,全球數(shù)據(jù)量每隔18個(gè)月就會(huì)翻一倍,指數(shù)據(jù)總量,所以比我們腦的摩爾定律大很多。大數(shù)據(jù)帶來(lái)的挑戰(zhàn)就是過(guò)去的這么多年來(lái),數(shù)據(jù)增長(zhǎng)現(xiàn)在是到了2000EB左右,這個(gè)量是在04年的時(shí)候只有30EB,所以這個(gè)增長(zhǎng)非??欤F(xiàn)在每?jī)商飚a(chǎn)生的數(shù)據(jù),就相當(dāng)于03年以前全球所有數(shù)據(jù)的總和。所以,我們看到為什么現(xiàn)在有這么多數(shù)據(jù)中心在建設(shè),其實(shí)也于這個(gè)也關(guān)系?,F(xiàn)在企業(yè)能夠利率的數(shù)據(jù)大概7%,將來(lái)很快會(huì)降到4%。如果我們把數(shù)據(jù)的利用率提升,如果我們能提升10%,那么在很多行業(yè),它的效率將會(huì)提升20%。所以,這個(gè)影響是非常大的。我們現(xiàn)在看到淘寶網(wǎng)提供了一些數(shù)據(jù)分析的服務(wù),比如數(shù)據(jù)模仿,這些數(shù)據(jù)分析有助于那些有經(jīng)驗(yàn)的賣家根據(jù)這個(gè)服務(wù)購(gòu)買這個(gè)數(shù)據(jù),然后優(yōu)化它的商品銷售。我們現(xiàn)在看到很多皇冠賣家都是以前好日積月累累出來(lái)的,但是現(xiàn)在一大批的數(shù)據(jù)賣家是靠數(shù)據(jù)分析,這樣就能夠提高它的銷售量。亞馬遜在它的銷書的過(guò)程中,每次你結(jié)帳的時(shí)候會(huì)給你推薦會(huì)不會(huì)買另外一本書,這個(gè)銷售量增長(zhǎng)了很大。

云計(jì)算增長(zhǎng)這么快的情況下,我們用什么去解決,用大量的計(jì)算機(jī)取代以前單打獨(dú)斗的計(jì)算機(jī)。到了1998年有了網(wǎng)格計(jì)算,08年有了服務(wù)計(jì)算,07年有了云計(jì)算,這些都是它的本質(zhì)的問(wèn)題。云計(jì)算在基礎(chǔ)上來(lái)講,實(shí)際上就是怎么能夠把這些分布的資源管起來(lái),這些資源非常不可靠,怎么把它有效的虛擬起來(lái),然后對(duì)外界提供簡(jiǎn)單的接口,方便大家從網(wǎng)上進(jìn)行訪問(wèn),云計(jì)算的核心就是冗錯(cuò)。谷歌就是找到了這樣一個(gè)做法,4月1號(hào),谷歌給大家提供了1GB的G-mail的信箱,谷歌03年的時(shí)候當(dāng)時(shí)發(fā)了一篇論文,這篇文章可以說(shuō)是整個(gè)云計(jì)算產(chǎn)業(yè)的奠基之作,非常簡(jiǎn)單,它描述的結(jié)構(gòu)就是這臺(tái)機(jī)器有很多是管理的機(jī)器,下面是負(fù)責(zé)數(shù)據(jù)存儲(chǔ)的機(jī)器,右邊的是客戶端。為什么要兩臺(tái),因?yàn)閮膳_(tái)機(jī)器要互有備份。所以,這樣使得它始終都能保持?jǐn)?shù)據(jù)有三個(gè)副本,所以這套機(jī)器就可以做的非??煽?。所以,谷歌的機(jī)房都能做得這么簡(jiǎn)單,普通的PC裝4個(gè)硬盤,背后對(duì)著走廊,因?yàn)檫@些機(jī)器隨時(shí)都會(huì)壞了,壞了以后沒有人管,如果壞了,就方便拿下來(lái),所以就完全不需要人維護(hù)。所以,這樣帶來(lái)的好處就非常明顯。目前微軟公司建了一個(gè)15萬(wàn)機(jī)器的云計(jì)算平臺(tái),只有5個(gè)人在做,所以它的效率非常高。#p#

谷歌的數(shù)據(jù)中心建在戈壁灘上面,非常冷的這些地方?,F(xiàn)在Facebook也公開了他的云計(jì)算數(shù)據(jù)中心,在一個(gè)非?;臎龅牡胤?,它的PUE竟然能做到1.06。谷歌曾經(jīng)寫了GFF這樣的文章公開了它最核心的技術(shù),造成了全世界云計(jì)算的熱潮,所以,你們可以學(xué)習(xí)我們的方法,所以我們建設(shè)綠色數(shù)據(jù)中心很多東西可以借鑒Facebook的數(shù)據(jù)中心的建設(shè)方法。

在能源上面有很多問(wèn)題,左邊是谷歌帶美國(guó)的東海岸收購(gòu)了一個(gè)公司,云計(jì)算屬于高耗能產(chǎn)業(yè),10萬(wàn)臺(tái)機(jī)器,一塊錢一度電,10萬(wàn)臺(tái)PUE等于2的話是5億人民幣,所以能源的消耗比數(shù)據(jù)中心本身的建設(shè)成本,如果三年之上,就超過(guò)了數(shù)據(jù)中心建設(shè)成本,所以能源問(wèn)題是一個(gè)為突出的問(wèn)題,目前數(shù)據(jù)中心的能耗已經(jīng)超過(guò)航空產(chǎn)業(yè),整個(gè)天上這么多飛機(jī)在飛,但是它的能耗還不如數(shù)據(jù)中心消耗的多,現(xiàn)在大概2%點(diǎn)幾的能源被云計(jì)算數(shù)據(jù)中心使用,我相信再過(guò)幾年會(huì)超過(guò)10%,甚至20%的數(shù)據(jù)中心將使云計(jì)算使用這么多能源。

谷歌在比利時(shí)建的云計(jì)算數(shù)據(jù)中心完全放在室內(nèi),因?yàn)檫@個(gè)地方比較冷,但是仍然一年有7天比較熱,谷歌在這7天里面把數(shù)據(jù)中心完全關(guān)掉,不再使用,這個(gè)時(shí)候就不需要再額外的散熱了,到了7天之后再打開繼續(xù)工作,用這種方法避開散熱。那么,這種方式我覺得對(duì)很多企業(yè)其實(shí)是適用的,在國(guó)內(nèi)360在前年的夏天曾經(jīng)它的數(shù)據(jù)中心機(jī)房主空調(diào)出現(xiàn)故障,這時(shí)候360受到報(bào)警馬上就啟動(dòng)了指令關(guān)掉了這個(gè)機(jī)房。我們這一塊做的這些事情,比如說(shuō)我們主要著重針對(duì)云計(jì)算大數(shù)據(jù)的基礎(chǔ)做了四個(gè)方面的工作。

一方面是云存儲(chǔ),第二方面是大數(shù)據(jù)怎么處理。第三、視頻方面的應(yīng)用。第四、大數(shù)據(jù)怎么高速的傳到另外一個(gè)地方。谷歌是不允許修改數(shù)據(jù),我們?nèi)我饪梢孕薷?,而且我們可以把不同的異地機(jī)架虛擬成更大的存儲(chǔ)平臺(tái),能量可以做到100完EB。我們今年和國(guó)家科技部啟動(dòng)了一個(gè)計(jì)劃,1EB的存儲(chǔ)系統(tǒng)。另外就是存儲(chǔ)的控制器我們自己研制了一種新的存儲(chǔ)控制器,這個(gè)控制器的功耗只有10瓦可以控制16個(gè)硬盤,我們采用傳統(tǒng)X86架構(gòu)需要250萬(wàn)我的電,但是我們現(xiàn)在把它只降大10萬(wàn),它達(dá)到的效果是類似的,成本節(jié)省了10倍。這樣使得云存儲(chǔ)能源消耗更少,這是我們的機(jī)架,既可以是X86,也可以是超低功耗。我們?cè)趦?nèi)蒙布了一套系統(tǒng)已經(jīng)三年多了,好多硬件都?jí)牧耍窍到y(tǒng)仍然是好的。同時(shí),我們可以做所有的節(jié)點(diǎn),隨著節(jié)點(diǎn)的數(shù)量增長(zhǎng),用戶的訪問(wèn)量上升,我能夠讓它的整體IO性能呈線性增長(zhǎng),我在以太網(wǎng)里面讀數(shù)據(jù)的時(shí)候,速度是非常驚人的。我們?cè)拼鎯?chǔ)系統(tǒng)是前所未有的一個(gè)性能。這是我們做的新的機(jī)架,它的正面全部是盤,反面上下都是盤,中間是電路板,是1.125PB的流量,所有的功耗3400瓦,所以我們一個(gè)機(jī)架放到機(jī)房里就相當(dāng)于一房建了所有的機(jī)器,但是它的成本只相當(dāng)于原來(lái)一個(gè)機(jī)架的成本,所以這套系統(tǒng)我們覺得對(duì)于數(shù)據(jù)中心建設(shè)可能會(huì)非常有用,如果你用海量的數(shù)據(jù),比如大家現(xiàn)在都在云盤大戰(zhàn),云盤的成本居高不下,我們?cè)?jīng)有運(yùn)營(yíng)商找我們,說(shuō)我租用你的設(shè)施,我們?cè)敢飧抖嗌僮饨?,后?lái)我算的一下,我說(shuō)你只要付我半年租金設(shè)備就送你了,我們比市場(chǎng)上云盤的價(jià)格便宜很多,我們這套系統(tǒng)是高可靠,高性能,高可伸縮性,超低功耗,超高集成度,高易用性,價(jià)格非常便宜。便宜到什么程度?在招標(biāo)的時(shí)候我們?cè)拼鎯?chǔ)系統(tǒng)只有320萬(wàn),別的廠商都是900多萬(wàn)。另外我們系統(tǒng)在南京公安局得到了大量的應(yīng)用。他們主要是把各城市里的攝象頭的硬盤,所有的監(jiān)控硬盤把數(shù)據(jù)導(dǎo)到云存儲(chǔ)上面,交給幾千個(gè)警察同時(shí)做分析。這樣大家就發(fā)現(xiàn),用這樣的系統(tǒng)它的特點(diǎn)系什么?幾千個(gè)人同時(shí)用一套系統(tǒng),但是每個(gè)人都覺得很快。第二,在用的過(guò)程中老跳閘,大家擔(dān)心云存儲(chǔ)會(huì)不會(huì)把數(shù)據(jù)丟掉,但是打開機(jī)器發(fā)現(xiàn)數(shù)據(jù)都沒有丟失,大家從哪兒以后就建立了信心。所以,現(xiàn)在南京公安局現(xiàn)在大規(guī)模采購(gòu)基本上全都是這種系統(tǒng),現(xiàn)在在南京政務(wù)數(shù)據(jù)部署的公安局宣布是這個(gè)系統(tǒng)。#p#

云處理我們有一個(gè)系統(tǒng)叫數(shù)據(jù)立方,我們Hbase的30倍。另外就是可靠性有大幅的提升,我們還HDFS進(jìn)行了大量的改造,把它所有的單點(diǎn)故障給消除掉了。數(shù)據(jù)立方能夠快速的處理機(jī)器海量的數(shù)據(jù),JOBKEEPER能夠?qū)Υ罅康挠?jì)算任務(wù)進(jìn)行大量的調(diào)度,我們這個(gè)處理平臺(tái)就是當(dāng)你有大量的計(jì)算任務(wù),每個(gè)任務(wù)都很小,怎么能夠快速的高可靠的把它處理完。這個(gè)是中國(guó)移動(dòng)在廣東移動(dòng)搞了一個(gè)比賽,它的數(shù)據(jù)量整個(gè)廣東是中國(guó)移動(dòng)收入量最大的,心靈流峰值是7200KB/S。這是參賽的其他廠商,有幾家是用美國(guó)最有名的一個(gè)大數(shù)據(jù)處理的平臺(tái),但是它非常貴,一套系統(tǒng)有上千萬(wàn),我們跟它這樣的系統(tǒng)競(jìng)爭(zhēng),最后的效果是非常好的,這是我們整個(gè)通過(guò)這個(gè)比賽證明了這個(gè)系統(tǒng)。這個(gè)比賽比了一年,比功能、性能、可靠性,全方位的是,最后是非常驚人的結(jié)果。這是我們當(dāng)時(shí)比賽的現(xiàn)場(chǎng)。這個(gè)比賽當(dāng)時(shí)也是把每一家到屏幕上,同時(shí)進(jìn)行相同的處理,或者看誰(shuí)不崩潰,我們?cè)谶@里面最后得到大家的認(rèn)可了。我們后來(lái)中標(biāo)了很多中國(guó)移動(dòng)的工程,中國(guó)移動(dòng)現(xiàn)在的試點(diǎn),首先第一個(gè)就是江蘇移動(dòng),布了12個(gè)機(jī)架,處理整個(gè)江蘇省所有的移動(dòng)手機(jī)信令,每秒鐘的流量200兆,效果非常好。

我們現(xiàn)在云計(jì)算模式要把所有的數(shù)據(jù)都到云計(jì)算平臺(tái),甚至全國(guó)的實(shí)時(shí)數(shù)據(jù)都可以處理掉,這是我們當(dāng)時(shí)數(shù)據(jù)入庫(kù)的樣子,這是我們數(shù)據(jù)查詢。當(dāng)我們要在這么大數(shù)據(jù)量的情況下查詢符合條件的車的記錄,我們一點(diǎn)查詢按紐就出結(jié)果,以前的系統(tǒng)要用很長(zhǎng)時(shí)間。現(xiàn)在我們做到一個(gè)省的或者一個(gè)國(guó)家的規(guī)模,或者我們有一千億條,或者一萬(wàn)一條記錄,我們能夠做到實(shí)時(shí)的查詢,然后動(dòng)態(tài)的篩選。比如給出查詢條件,一點(diǎn)查詢就出結(jié)果了,這是以前做不到的。有了這個(gè)能力,現(xiàn)在有了很多以前做不了的事情。比如有一輛車,一過(guò)這個(gè)卡口,就把它的牌照和其他的車比對(duì)一下,如果相同它就是套牌車。以前都是靠眼睛查,那是非常困難的。我們同時(shí)也把這個(gè)作為數(shù)據(jù)的一體機(jī),就是硬件和軟件結(jié)合在一起。英特爾公司目前跟我們合作推出新的一體機(jī),大概10月底開新聞發(fā)布會(huì),英特爾公司會(huì)著重把這個(gè)產(chǎn)品推出去,除了英特爾之外,其他國(guó)內(nèi)所有的大廠都在跟我們合作。

云視頻,我們主要業(yè)績(jī)大規(guī)模的,你怎么能保證這么多攝象頭都到你的平臺(tái)上,怎么高效的把數(shù)據(jù)存起來(lái),自動(dòng)的處理,主要是解決這個(gè)問(wèn)題。我們?cè)谝粋€(gè)監(jiān)控畫面,就可以監(jiān)控一個(gè)城市的幾十萬(wàn)攝象頭,但是人其實(shí)看不過(guò)來(lái),所以我們要用大量的計(jì)算機(jī)同時(shí)處理不同的視頻流。另外除了做交通,道路流量的判斷,發(fā)生事故的自動(dòng)報(bào)警,比如有人打架,有人搶劫,所有的行為通過(guò)云計(jì)算的節(jié)點(diǎn)進(jìn)行自動(dòng)的判斷、處理和報(bào)警,這樣把大量傳統(tǒng)的攝象頭接入到云計(jì)算平臺(tái)進(jìn)行處理。同時(shí)我們也做對(duì)犯罪嫌疑人的動(dòng)態(tài)跟蹤,像周克華的案子,用云計(jì)算平臺(tái)做動(dòng)態(tài)的處理,但是云計(jì)算平臺(tái)我們攝象頭都很模糊,看不清楚他的臉,那么,在這種情況下我們發(fā)明了這種新的技術(shù)解決這個(gè)問(wèn)題。

云傳輸主要是快速的把數(shù)據(jù)高效的傳輸?shù)讲煌胤剑@個(gè)傳輸速度也大幅提升。這是我們?cè)趪?guó)家做的實(shí)驗(yàn),能夠提高幾十倍的性能,這是目前全國(guó)有6個(gè)省的電視臺(tái)用這種方法進(jìn)行高效的數(shù)據(jù)傳輸,到今年您地16個(gè)省。我們有一個(gè)網(wǎng)站叫中國(guó)云計(jì)算,歡迎大家訪問(wèn)。我們也有幾本書,大家可能看得比較多的云計(jì)算第二版現(xiàn)在是最多的一本。謝謝!

責(zé)任編輯:王程程 來(lái)源: 中國(guó)云計(jì)算
相關(guān)推薦

2011-09-08 15:15:15

云計(jì)算Gmail數(shù)據(jù)中心

2015-06-12 09:53:29

亞馬遜AWSAWS數(shù)據(jù)中心

2024-04-23 14:46:40

云計(jì)算能源效率碳排放

2020-06-03 07:59:12

2012-11-19 10:35:18

阿里云云計(jì)算

2011-03-11 10:16:08

云計(jì)算

2012-05-21 10:29:04

云計(jì)算

2023-04-10 14:35:53

云計(jì)算IT云數(shù)據(jù)中心

2023-01-04 10:43:04

云計(jì)算二氧化碳排放

2017-09-18 17:00:04

云深度學(xué)習(xí)機(jī)器學(xué)習(xí)云服務(wù)

2017-04-26 10:04:31

云計(jì)算

2013-04-02 11:27:35

大數(shù)據(jù)云計(jì)算

2021-02-24 15:00:34

云計(jì)算云服務(wù)密信技術(shù)

2018-07-10 17:06:46

云計(jì)算

2024-04-23 15:51:50

云計(jì)算數(shù)據(jù)中心

2012-06-26 14:15:52

電信行業(yè)云計(jì)算案例

2023-02-13 08:11:43

云計(jì)算綠色云計(jì)算

2015-05-13 11:36:17

良方醫(yī)藥華云數(shù)據(jù)私有云

2023-09-16 18:26:02

云安全網(wǎng)絡(luò)安全

2015-07-17 08:23:06

品高云計(jì)算
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 日韩成人在线免费观看 | 美国十次成人欧美色导视频 | 麻豆av免费观看 | 国产午夜视频 | 国产精品二区三区 | 欧美日韩电影免费观看 | 日韩免费网站 | 一级片在线观看 | 欧美午夜精品 | 欧美 日韩精品 | 亚洲一区二区中文字幕 | 久久99精品久久久水蜜桃 | 欧洲一区二区视频 | 免费成人在线网 | 91av在线不卡| 超碰精品在线 | 精品少妇一区二区三区日产乱码 | 黄色av网站免费看 | 久久一久久 | av官网在线| 免费一区二区在线观看 | 国产精品五区 | 成人免费影院 | 久久青 | 999久久久精品 | 欧美另类日韩 | 天啪 | 国产精品久久久久久久久免费桃花 | 中文字幕在线电影观看 | 中文字幕成人 | 国产免费福利在线 | 国产婷婷在线视频 | 美国一级片在线观看 | 精品国产乱码久久久久久丨区2区 | 国产精品久久久久久238 | 午夜国产在线 | 久久成 | 久久久久久久久99精品 | 亚洲乱码一区二区三区在线观看 | 国产精品有限公司 | 4h影视 |