成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

遞歸數據效率低怎么辦?用并行計算!

開發
對于比較復雜的互聯網應用業務場景,由于數據量極大,對于數據處理的速度會要求非常高。要大幅提升算法的效率,最直接的方法就是:使用并行計算。但是,并行計算的學習成本較高,我們需要一個通俗易懂的例子來直接看到并行計算的優勢。下面,淘寶網高級專家千峰就編寫了這樣的一個例子,51CTO受邀將這篇文章分享給大家。

 

對于比較復雜的互聯網應用業務場景,比如海量數據商品搜索、廣告點擊算法、用戶行為挖掘、關聯推薦模型等等,由于數據量極大,對于數據處理的速度會要求非常高。要大幅提升算法的效率,最直接的方法就是:使用并行計算。

但是,并行計算有一個很大的問題:傳統的程序都是基于單機編寫的。要更改為多機并行的程序,需要耗費較大的學習成本。尤其在真實的場景當中,業務本身很復雜,初學者一頭扎進去,容易繞暈了頭。

因此,我們需要一個通俗易懂的例子來直接看到并行計算的優勢。

下面,淘寶網高級專家千峰就編寫了這樣的一個例子,51CTO受邀將這篇文章分享給大家。

文章概述

問題:

請寫一個程序,輸入M,然后打印出M個數字的所有排列組合(每個數字為1,2,3,4中的一個)。比如:M=3,輸出:

1,1,1
1,1,2
……
4,4,4

共64個

注意:這里是使用計算機遍歷出所有排列組合,而不是求總數,如果只求總數,可以直接利用數學公式進行計算了。

傳統的單機解決方案:

1)單機遞歸

將n(1<=n<=4)看做深度,輸入的m看做廣度。當m數字很大時,會超出單臺機器的計算局限導致緩慢。

2)單機迭代

求m個數字的排列組合,實際上都可以在m-1的結果基礎上得到。但是,當m=14的時候,結果已經上億了。無論以什么格式存,最終在單機上都會內存溢出。

分布式并行計算解決方案:

1)多機遞歸

這是本篇文章的重點。

核心思想:重新設計算法,按多機進行拆分和合并,利用并行計算優勢去完成結果。

按照并行計算的算法,n臺計算機可以將遞歸降一級,n*n臺計算機可以將遞歸降兩級。理論上,只要機器足夠多,就能持續降低遞歸的復雜度。

運行步驟:

多機遞歸

使用fourinone框架設計分布式并行計算。整個框架通過一個ParkServerDemo做整體的工人注冊和分布式協調,中間有作為包工頭的CombCtor(分配工作+統計結果),最下面有多個CombWorker作為工人實現(干活兒+返回結果)。

文中有多機遞歸實現的完整代碼。

2)多機迭代

本文提供了三個多機迭代的思路。相對多機遞歸的方式,多機迭代的方式在這個例子中并不高效,因此沒有提出實現方式。

對這篇文章感興趣,可點擊這里查看全文

 

責任編輯:yangsai 來源: 作者投遞
相關推薦

2010-04-21 09:23:09

.NET 4

2010-03-22 14:45:40

云計算

2017-04-24 12:07:44

Spark大數據并行計算

2021-06-01 05:51:37

云計算并行計算分布式計算

2011-04-20 17:15:21

并行計算

2009-12-18 09:38:27

.NET 4.0并行計

2011-04-21 09:13:14

并行計算

2012-08-17 09:32:52

Python

2010-03-19 17:23:45

云計算

2014-04-24 10:25:15

2024-04-22 08:17:23

MySQL誤刪數據

2014-01-21 11:16:59

MPI并行計算

2019-04-18 09:15:05

DaskPython計算

2020-12-18 09:23:41

KubernetesDocker

2020-03-23 10:42:56

團隊協作阿里

2010-03-11 15:23:44

Visual Stud

2010-06-10 08:37:04

并行計算

2011-08-29 10:40:02

浪潮英特爾并行計算

2023-07-10 13:51:45

測試并行計算框架

2021-01-05 10:48:38

RedisAOF日志RDB快照
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产成人网 | 天堂一区二区三区四区 | 国产免费一区二区三区最新6 | 欧美日韩国产一区 | 欧美电影免费观看高清 | 精品蜜桃一区二区三区 | 国产一区二 | 九九热在线视频 | 国产美女久久久 | 亚洲欧美在线一区 | 91精品国产综合久久久久 | 高清久久| 一区在线观看视频 | 色呦呦网站 | 国产激情在线 | 午夜a v电影 | 国产精品国产精品国产专区不卡 | 殴美成人在线视频 | 91xxx在线观看 | 久久亚洲一区二区三 | 久久中文高清 | 日韩a视频 | 91视频在线看 | 亚洲日韩中文字幕一区 | 亚洲一区二区高清 | 亚洲精品久久久久久久久久久 | 亚洲欧美成人在线 | 欧美亚洲国产日韩 | 亚洲午夜精品在线观看 | 综合在线视频 | 欧美日韩在线一区二区三区 | 看片国产 | 久久免费精品 | 日本欧美国产在线 | 午夜小视频在线播放 | 久久99精品国产99久久6男男 | 日韩久久久久久久久久久 | 九九激情视频 | 日韩91| 欧美精品成人 | 日本欧美国产在线观看 |